레티놀 — 재생의 약속과 붕괴의 경계에서

피부를 시험하는 성분에 대한 학술적 고찰

서문: 비타민 A라는 이름의 양날

피부과학의 역사에서 레티놀만큼 오랜 기간 논쟁의 중심에 서 있던 성분은 드물다. 1909년 엘머 맥콜럼(Elmer McCollum)이 "지용성 인자 A"를 발견한 이래, 비타민 A와 그 유도체들은 한 세기가 넘는 시간 동안 피부 생물학의 가장 깊은 층위에서 작동해왔다. 그것은 단순한 화장품 원료가 아니다. 세포의 언어를 바꾸는 분자이며, 유전자 전사(transcription)의 스위치를 올리는 신호이며, 피부라는 장기(organ)에게 "다시 젊어지라"고 명령하는 화학적 권위다.

그러나 모든 권위가 그렇듯, 레티놀의 명령에도 대가가 따른다. 재생을 강제로 끌어올린다는 것은, 피부가 스스로 조율해온 정교한 균형을 일시적으로 — 때로는 위험할 정도로 — 흔들어놓는다는 뜻이기도 하다. 이 글은 그 흔들림의 본질을 과학의 언어로 해부하되, 피부를 가진 인간의 시선으로 바라보고자 한다.

제1장: 분자의 여정 — 레티놀은 어떻게 피부를 바꾸는가

레티놀(retinol)은 그 자체로는 생물학적 활성을 갖지 않는다. 이것이 첫 번째로 이해해야 할 역설이다. 피부에 도포된 레티놀이 실제로 작용하기 위해서는 두 단계의 효소적 전환(enzymatic conversion)을 거쳐야 한다. 먼저 알코올 탈수소효소(alcohol dehydrogenase, ADH)가 레티놀을 레티날데하이드(retinaldehyde)로 산화시키고, 이어서 레티날데하이드 탈수소효소(retinaldehyde dehydrogenase, RALDH)가 이를 최종 활성형인 올트랜스 레티노산(all-trans retinoic acid, ATRA)으로 전환한다.

이 전환 과정 자체가 피부의 생화학적 역량에 의존한다는 사실은 중요하다. 피부의 각질형성세포(keratinocyte)가 이 효소들을 얼마나 활발히 발현하느냐에 따라, 같은 농도의 레티놀이라도 피부마다 전혀 다른 강도의 레티노산을 생성한다. 분화가 진행된 각질형성세포일수록 레티날데하이드를 레티노산으로 전환하는 효율이 높아진다는 연구 결과는, 같은 제품이 누군가에게는 기적이 되고 누군가에게는 재앙이 되는 현상의 분자적 근거를 제공한다.

생성된 레티노산은 세포핵 내의 레티노산 수용체(Retinoic Acid Receptors, RAR-α, -β, -γ)와 레티노이드 X 수용체(Retinoid X Receptors, RXR-α, -β, -γ)에 결합한다. 이 수용체들은 전사인자(transcription factor)로서, DNA의 특정 반응 요소(retinoic acid response elements, RAREs)에 결합하여 수백 개의 유전자 발현을 조절한다. 콜라겐 1형(COL1A1)과 3형(COL3A1)의 합성이 촉진되고, 기질금속단백분해효소(matrix metalloproteinases, MMPs)의 활성은 억제된다. 표피줄기세포(interfollicular epidermal stem cells)가 활성화되어 각질형성세포의 증식과 분화가 가속된다. 표피가 두꺼워지고, 진피의 세포외기질(extracellular matrix, ECM)이 재건된다.

여기까지만 보면 레티놀은 완벽한 항노화 솔루션처럼 보인다. 그러나 이 작용의 이면에는 회복보다 빠른 속도로 진행되는 파괴가 숨어 있다.

제2장: 재생의 속도가 만드는 균열

각질 턴오버의 역설 — 장벽이 만들어지기 전에 벗겨진다

레티노산이 각질형성세포의 증식 속도를 높이면, 표피의 세포 교체 주기(turnover)가 단축된다. 정상적으로 28일 내외인 이 주기가 급격히 앞당겨지면서, 기존의 성숙한 각질세포(corneocyte)가 아직 후속 세포들이 충분한 장벽 구조를 형성하기 전에 탈락한다. 각질층(stratum corneum)은 단순한 죽은 세포의 층이 아니다. 그것은 세라마이드(ceramide), 콜레스테롤(cholesterol), 유리지방산(free fatty acid)으로 구성된 정교한 세포간 지질 이중층(intercellular lipid bilayer)이 "벽돌과 회반죽(brick and mortar)" 구조를 이루며 외부 자극을 차단하고 수분 증발을 막는, 피부의 최전방 방어선이다.

레티놀 사용 초기에 나타나는 건조, 당김, 각질 폭발은 바로 이 지질 장벽의 재건 속도가 탈락 속도를 따라잡지 못하면서 발생한다. 경피수분손실량(transepidermal water loss, TEWL)이 증가하고, 피부는 말 그대로 "지붕 없는 집"이 된다. 2024년 Journal of Cosmetic Dermatology에 발표된 Fang 등의 연구는 레티노이드 사용으로 인한 각질층 장벽 붕괴(stratum corneum barrier disruption)가 이른바 "레티니제이션(retinization)" 과정의 핵심적 결과임을 패치 테스트를 통해 실증적으로 확인한 바 있다.

염증이라는 이름의 적응 반응

레티놀에서 레티노산으로의 전환 과정은 그 자체로 피부 내 염증 캐스케이드를 유발한다. 연구에 따르면 레티놀은 MCP-1(monocyte chemoattractant protein-1) 단백질과 인터루킨-8(IL-8)의 분비를 유의미하게 증가시킨다. 이는 면역세포의 침윤(immune cell infiltration)과 사이토카인 방출을 수반하는 광범위한 염증 반응으로, 임상적으로는 홍반(erythema), 화끈거림, 따가움으로 나타난다.

피부과에서는 이를 "레티노이드 피부염(retinoid dermatitis)"이라 부르며, 2024년 Narsa 등이 Dermatology Research and Practice에 발표한 포괄적 리뷰에서는 이 자극의 메커니즘이 각화 외피(cornified envelope) 관련 유전자의 발현 불균형과 피부 장벽의 구조적·기능적 변성에 기인한다고 정리하고 있다.

흥미로운 것은, 이 염증이 단순한 부작용이 아니라 재생 과정 자체와 불가분의 관계에 있다는 점이다. 레티노산에 의한 각질형성세포의 증식 촉진, 콜라겐 합성 자극, 표피 두께 증가는 모두 일종의 "통제된 손상 후 회복" 기전 위에 놓여 있다. 피부는 자극 신호를 수신한 뒤 재건 프로그램을 가동하는 것이며, 그 자극의 초기 단계가 바로 염증이다. 문제는 이 통제된 손상이 "통제"를 벗어나는 지점이 사람마다, 그리고 같은 사람에게도 시기마다 다르다는 것이다.

퍼징(Purging) — 내부의 것이 올라온다

레티놀 사용 초기 2~6주 동안 여드름이 오히려 증가하는 현상, 이른바 퍼징은 표피 턴오버의 가속으로 인해 모낭 깊숙이 정체되어 있던 미세 면포(microcomedone)가 빠르게 표면으로 밀려 올라오면서 발생한다. 이것은 레티놀이 피부에 나쁜 작용을 하고 있다는 신호가 아니라, 오히려 의도된 메커니즘이 작동하고 있다는 역설적 증거다. 다만 이 과도기가 사용자에게 주는 심리적 충격은 작지 않다. "더 좋아지기 위해 먼저 더 나빠진다"는 논리를 자신의 얼굴 위에서 견뎌야 하는 것이기 때문이다.

제3장: 40대의 피부 — 왜 이 나이에 더 조심해야 하는가

40대의 피부는 "노화된 피부"라는 단순한 범주로 묶을 수 없다. 그것은 여러 겹의 기능 저하가 중첩된, 일종의 복합 위기 상태에 가깝다.

첫째, 내인성 노화(intrinsic aging)로 인해 표피줄기세포의 수가 감소하고 자기 복제 능력이 저하된다. 진피의 섬유아세포(fibroblast) 역시 콜라겐과 엘라스틴의 합성 효율이 떨어진다. PMC에 게재된 노화 피부 리뷰 연구에 따르면, 이러한 변화는 피부의 구조적 완결성과 기능적 항상성 모두에 교란을 가져온다.

둘째, 세포간 지질 조성이 변화한다. 세라마이드의 절대량이 감소하고, 세라마이드 아종(subspecies) 간의 비율이 달라지면서 지질 이중층의 정렬(lamellar organization)이 느슨해진다. 장벽 기능이 이미 취약한 상태인 것이다.

셋째, 자외선에 의한 외인성 노화(photoaging)의 누적 효과가 겹친다. 태양 탄성증(solar elastosis), 진피-표피 접합부(dermal-epidermal junction)의 평탄화, 당질아미노글리칸(glycosaminoglycans, GAGs)의 변성이 이미 진행되어 있다.

이 세 겹의 취약성 위에 레티놀이라는 강력한 재생 촉진제가 올라가면 어떤 일이 벌어지는가. 장벽이 이미 약화된 피부에서 턴오버가 가속되면, 장벽 붕괴는 더 빠르고 더 깊게 일어난다. 장벽 붕괴는 염증을 심화시키고, 염증은 멜라노사이트(melanocyte)를 자극하여 멜라닌 합성을 촉진한다. 자외선 노출이 겹치면 이 반응은 기하급수적으로 증폭된다. 결과적으로:

재생 촉진 → 장벽 붕괴 → 염증 증가 → 색소 침착 악화

라는 연쇄 반응이 40대 피부에서 특히 빈번하게 관찰되는 것이다. 기미가 더 진해지는 경험, 피부가 오히려 얇아지고 민감해진 느낌, 외부 자극에 대한 과민 반응은 모두 이 구조적 연쇄의 임상적 발현이다.

제4장: 피부 마이크로바이옴과의 새로운 대화

최근의 연구는 레티놀의 작용을 피부 미생물군집(skin microbiome)의 관점에서 재해석하고 있으며, 이는 기존의 수용체 중심 패러다임에 의미 있는 확장을 더한다.

2024년 bioRxiv에 발표된 전처리 연구에서는 레티놀의 국소 도포가 피부의 미생물 생태계를 유의미하게 재편한다는 사실이 보고되었다. 특히 주목할 점은 피부 상재균 중 Sericytochromatia sp. 등 특정 미생물 종이 레티놀을 레티날로 산화할 수 있는 효소적 역량을 보유하고 있다는 발견이다. 이는 레티놀의 대사가 인간 세포의 효소 시스템에만 의존하는 것이 아니라, 피부 마이크로바이옴과의 공동 대사(co-metabolism)를 통해 이루어질 수 있음을 시사한다.

또한 레티놀 사용 후 피부 pH가 낮아지는 현상이 관찰되었는데, 이 산성화는 β-글루코세레브로시다제(β-glucocerebrosidase)와 산성 스핑고미엘리나제(acid sphingomyelinase)의 활성을 높여 세라마이드와 스핑고미엘린의 지질 처리 효율을 향상시킨다. 즉, 레티놀은 미생물 군집의 재편을 통해 간접적으로 피부 장벽의 회복을 촉진할 수 있다는 것이다. 표피 수분 함량(WCSC)의 증가와 TEWL의 감소로 이 장벽 강화 효과가 실증되었다.

이는 레티놀의 작용을 "성분 → 수용체 → 유전자 발현"이라는 단선적 도식으로만 이해해서는 안 된다는 것을 의미한다. 피부라는 생태계 전체 — 인간 세포, 미생물, 대사산물, pH 환경 — 가 레티놀이라는 하나의 분자에 반응하여 복합적으로 재편되는 것이다.

제5장: 나노기술의 개입 — 자극을 줄이면서 효능을 유지하는 전략

레티놀의 임상적 한계, 즉 자극과 불안정성을 해결하기 위한 제형과학적 노력은 최근 나노기술의 영역으로 깊이 진입하고 있다. 리포좀(liposome), 고체 지질 나노입자(solid lipid nanoparticles, SLN), 나노에멀겔(nano-emulgel), 하이드로겔(hydrogel) 등 다양한 나노 전달 시스템이 연구되고 있으며, 이들의 공통된 목표는 레티놀의 경피 흡수를 제어하고, 방출 속도를 조절하며, 산화 분해를 억제하는 것이다.

한국 화장품학회의 연구에서는 레티놀을 층상 리포좀(lamellar liposome)에 봉입했을 때 비-리포좀 제형 대비 분해 속도가 유의미하게 감소하고 유효기한이 연장되는 것이 확인되었다. 다층 리포좀 전달 기술을 활용하여 0.5% 레티놀에 나이아신아마이드와 터미날리아 체불라(Terminalia chebula) 추출물을 함께 봉입한 제형 연구도 주목할 만하다.

2024년 Journal of Drugs in Dermatology에 발표된 6건의 대조 임상 연구를 통합 분석한 결과, 0.1% 안정화 바이오액티브 레티놀 제형이 광노화의 모든 임상 지표를 4주 차부터 유의미하게 개선했으며, 자극 반응은 극소수에서 경미하고 일시적인 수준에 그쳤다. 이는 제형 기술의 발전이 레티놀의 "효능-자극 트레이드오프(efficacy-irritation trade-off)"를 실질적으로 개선할 수 있음을 보여주는 임상적 근거다.

제6장: 세라마이드와의 공존 — 방패와 창을 함께 드는 전략

레티놀이 "창(lance)"이라면, 세라마이드는 "방패(shield)"다. 이 비유는 단순한 수사가 아니라 분자 수준에서 작동하는 상보적 메커니즘에 기반한다.

레티놀이 장벽을 교란할 때, 세라마이드는 그 교란된 세포간 지질 배열을 복원한다. 콜레스테롤, 유리지방산과 함께 정렬된 결정 구조(ordered crystalline structure)를 재형성하여 낮은 투과성을 유지하고 수분 손실을 방지한다. 2024년 Fang 등의 패치 테스트 연구에서는 세라마이드 3와 콜레스테롤로 구성된 생리적 지질 혼합물(physiologic lipid mixture, PLM)이 레티놀 유발 자극을 유의미하게 완화하는 것이 확인되었으며, 이 효과는 세포간 지질 이중층의 핵심 지질을 보충함으로써 장벽 복원 능력을 강화하는 데서 비롯되는 것으로 추정되었다.

실전적 전략은 다음과 같이 정리된다.

도입 전 조건 정비. 장벽이 안정화되지 않은 상태에서 레티놀을 시작하는 것은 지붕을 고치기 전에 태풍을 맞이하는 것과 같다. 세라마이드와 판테놀 기반의 장벽 강화 루틴을 최소 2~4주 선행하는 것이 권장된다.

점진적 적응(retinization). 주 2회에서 시작하여 주 3회, 격일, 매일의 순서로 최소 4~8주에 걸쳐 사용 빈도를 높인다. 0.3% 이하의 저농도 레티놀이 1%에 비해 유의미하게 적은 부작용을 유발하면서도 비교할 만한 효능을 보인다는 연구 결과는 "더 강하게, 더 빠르게"가 반드시 "더 좋게"를 의미하지 않음을 보여준다.

샌드위치 기법. 보습제(세라마이드 함유) → 레티놀 → 보습제의 순서로 도포하여 레티놀의 침투를 완충(buffering)하는 기법은 특히 민감성 피부나 초기 적응기에 유용하다. 이 방법은 레티놀의 유효 작용을 크게 저해하지 않으면서 자극을 의미 있게 감소시킨다.

병행 필수 조합. 재생(레티놀), 안정화(세라마이드), 진정(판테놀/센텔라시아티카), 보호(자외선 차단)의 네 축을 동시에 가동하는 것이 구조적으로 가장 안전한 접근이다.

제7장: 사용해서는 안 되는 순간들

모든 강력한 도구에는 그것을 내려놓아야 하는 순간이 있다. 레티놀의 경우 그 순간은 명확하다.

피부 장벽이 이미 붕괴된 상태 — TEWL이 현저히 증가하고, 홍조가 활성화되어 있으며, 경미한 외부 자극에도 작열감을 느끼는 상태에서 레티놀은 재생 촉진제가 아니라 추가적 손상 요인이 된다. 레이저 시술 직후의 피부, 활동성 습진이나 주사비(rosacea)가 있는 피부, 그리고 임신 중이거나 수유 중인 경우에도 레티노이드 사용은 금기에 해당한다.

접촉성 피부염의 징후 — 단순한 적응기의 붉음을 넘어서 부종, 심한 가려움, 수포 형성이 동반되는 경우 — 가 나타나면 즉시 사용을 중단해야 한다. 이는 레티노이드에 대한 면역학적 과민 반응의 가능성을 시사하며, 회복 후 저농도로 재시도하거나 대체 성분(바쿠치올(bakuchiol), 레티날데하이드 등)을 고려해야 한다.

제8장: 차세대 레티노이드의 지평

현재의 레티노이드 연구는 네 가지 방향으로 진화하고 있다.

수용체 선택성(receptor selectivity)의 정밀화. RAR과 RXR의 아형별 선택적 작용제(subtype-selective agonist)를 개발하여, 원하는 생물학적 효과(콜라겐 합성 촉진 등)는 극대화하면서 원하지 않는 효과(자극, 염증)는 최소화하려는 시도가 계속되고 있다. 셀레티노이드-G(seletinoid-G)와 같은 수용체 선택적 화합물이 대표적 사례다.

대사 조절 전략. CYP26A1 등 레티노산 대사 효소의 억제제(retinoic acid metabolism blocking agents, RAMBAs)를 활용하여 국소적 레티노산 농도를 정밀하게 조절하려는 접근이다. 리아로졸(liarozole)과 탈라로졸(talarozole)이 대표적이며, 2024년 Sakamuru 등은 CYP26A1 억제를 측정하는 고처리량 분석법을 개발·검증함으로써 이 분야의 약물 스크리닝 효율을 높였다.

나노 전달 시스템의 고도화. 앞서 논의한 리포좀 외에도, 고체 지질 나노입자(SLN)와 나노구조 지질 담체(nanostructured lipid carriers, NLC)를 활용한 제형이 연구되고 있으며, 이를 통해 레티놀의 피부 침투 깊이와 방출 속도를 보다 정밀하게 제어할 수 있을 것으로 기대된다.

전산 모델링에 의한 구조-활성 관계(SAR) 예측. 분자 동역학 시뮬레이션, 양자화학 계산, 분자 도킹 등의 in silico 기법을 활용하여 새로운 합성 레티노이드 유도체의 약력학적·약동학적 특성을 실험 전에 예측하는 것이 가능해지고 있다. 2025년에는 확장 가능한 합성 플랫폼을 통해 23종의 신규 레티노이드를 체계적으로 평가한 연구가 발표되기도 했다.

결어: 시험이라는 이름의 관계

레티놀을 "좋은 성분"과 "나쁜 성분"의 이분법으로 재단하는 것은 이 분자의 복잡성에 대한 예의가 아니다. 레티놀은 피부에게 묻는 성분이다. "당신은 지금 재생할 준비가 되어 있는가?" 장벽이 탄탄하고, 염증이 가라앉아 있고, 충분한 수분과 지질이 확보된 피부는 이 질문에 "그렇다"고 대답할 수 있다. 그 대답 위에서 레티놀은 콜라겐을 재건하고, 색소를 정돈하고, 표피의 두께와 탄력을 회복시킨다.

그러나 장벽이 무너져 있고, 만성 염증이 지속되며, 자외선 방어가 부실한 피부에게 레티놀의 질문은 가혹한 시험이 된다. 재생의 명령은 붕괴의 연쇄를 촉발하고, 의도했던 회복 대신 악화의 순환이 시작된다.

결국 레티놀의 성패를 가르는 것은 성분의 품질이나 농도가 아니라, 그것을 받아들이는 피부의 준비 상태와 사용자의 전략적 판단이다. 피부 상태를 먼저 읽고, 장벽을 먼저 세우고, 천천히 시작하고, 반응을 관찰하며, 필요할 때 멈출 줄 아는 것. 이것이 레티놀이라는 분자와 인간의 피부 사이에 성립하는, 과학적이면서도 지극히 인간적인 관계의 본질이다.

참고 문헌 및 근거 자료

1. Kong, R. et al. "A comparative study of the effects of retinol and retinoic acid on histological, molecular, and clinical properties of human skin." Journal of Cosmetic Dermatology, 15, 49–57 (2016).
2. Mambwe, D. et al. "Cosmetic retinoid use in photoaged skin: A review of the compounds, their use and mechanisms of action." International Journal of Cosmetic Science (2024).
3. Narsa, A.C. et al. "A Comprehensive Review of the Strategies to Reduce Retinoid-Induced Skin Irritation in Topical Formulation." Dermatology Research and Practice, 2024:5551774 (2024).
4. Fang, Y. et al. "Mitigation of retinol‐induced skin irritation by physiologic lipids: Evidence from patch testing." Journal of Cosmetic Dermatology, 23(8), 2743–2749 (2024).
5. Farris, P. et al. "Efficacy and Tolerability of Topical 0.1% Stabilized Bioactive Retinol for Photoaging: A Vehicle-Controlled Integrated Analysis." Journal of Drugs in Dermatology, 23(4), 209–215 (2024).
6. Pradhan, S.J. et al. "Retinoids — A unique ingredient for skin rejuvenation employing novel drug delivery systems." Journal of Applied Pharmaceutical Sciences, 14(07), 029–044 (2024).
7. 피부 노화와 레티놀의 항노화 특성에 관한 PMC 리뷰 (2023).
8. Decoding the anti-aging effect of retinol in reshaping the human skin. bioRxiv preprint (2024).
9. "The Next Generation of Skin Care: Transforming Retinoid Therapeutics." PMC (2025).
10. Choi, S.Y. et al. 각질층 프로테옴에 대한 레티놀 및 올트랜스 레티노산의 1년 종단 연구. Scientific Reports (2023).