전문의는 10년, 가짜 전문가는 10초 — AI 시대의 위험한 착각

화면 속 의사, 정말 의사일까?

숏폼 속 흰 가운 입은 사람이 차분한 목소리로 말합니다. “이 증상엔 이 제품이 좋습니다.” 병원 같은 배경, 안정된 말투. 자연스럽게 의사라고 믿기 쉽습니다.

그런데 그 사람은 실제 인물이 아닐 수도 있습니다. 의사가 아닐 수도 있습니다. AI가 만든 얼굴일 수도 있습니다.

화면 속 사람이 진짜 전문가인지, 우리는 무엇으로 알 수 있을까요?

《AI 전문의 3초 개업》

흰 가운을 고르고, 안경을 씌우고, 병원 같은 배경을 넣습니다. 차분한 말투와 자신 있는 자세까지 고르면 어떻게 될까요?

의사가 되는 데에는 오랜 공부와 수련이 필요합니다. 하지만 의사처럼 보이는 사람을 만드는 데에는 이제 몇 초면 충분할 수도 있습니다.

전문가와 ‘전문가처럼 보이는 사람’

AI로 만든 교육 영상이나 캐릭터, 광고 자체가 문제라는 뜻은 아닙니다. 문제는 AI로 만든 사람을 실제 전문가로 믿게 되는 순간입니다.

건강·법률·투자처럼 잘못된 정보의 대가가 큰 분야일수록 위험은 더 커집니다. 화면 속 사람의 말투와 배경이 신뢰를 만들고, 그 신뢰로 검증되지 않은 제품이나 서비스를 권한다면 피해는 결국 시청자에게 돌아갈 수 있습니다.

전문가가 되는 것과 전문가처럼 보이는 것은 이제 완전히 다른 문제입니다.

우리나라 AI 표시제, 지금 어디까지 왔나

우리나라에도 AI가 만든 결과물이라는 사실을 알리는 제도가 있습니다. 인공지능기본법은 생성형 AI로 만든 결과물에는 그 사실을 표시하도록 하고, 실제 사람이나 상황과 구분하기 어려운 영상·이미지·음향도 이용자가 AI로 만든 것임을 알 수 있도록 표시하도록 정하고 있습니다.

표시에는 사람이 알아보는 방식뿐 아니라 기계가 읽는 방식도 활용할 수 있습니다. 기계가 읽는 방식만 사용하는 경우에도 이용자가 AI 생성물이라는 사실을 알 수 있도록 별도의 안내가 필요합니다.

중요한 것은 하나입니다. 보는 사람이 자신이 무엇을 보고 있는지 알고 판단할 수 있어야 한다는 것입니다.

그런데, 표시가 사라지면?

법은 AI가 만든 것이라는 사실을 알리도록 요구합니다. 그런데 영상은 복사되고, 잘리고, 확대되고, 다시 편집돼 돌아다닙니다.

그 과정에서도 AI라는 정보가 계속 남아 있을 수 있을까요?

표시를 하는 것과 그 정보가 콘텐츠와 함께 계속 남게 만드는 것은 다른 문제입니다.

지워지지 않는 표시가 필요할까?

현행 제도는 AI 생성 사실을 알리는 데 초점이 맞춰져 있습니다. 그런데 영상이 복사되고 잘리고 다시 편집된 뒤에도 그 정보가 계속 따라다니게 할 것인지는 또 다른 과제입니다.

앞으로는 영상에 잠깐 붙였다 떼는 스티커가 아니라, 이 콘텐츠가 어디에서 만들어졌는지를 알려주는 ‘출생기록’ 같은 정보까지 필요하지 않을까요?

※ 이는 현행법이 정한 의무가 아니라 앞으로 필요할 수 있는 방향에 대한 질문입니다.

AI 표시가 모든 걸 해결하진 않는다

AI라고 표시했다고 거짓말이 허용되는 것은 아닙니다.

AI 표시제는 AI로 만들었다는 사실을 알려주는 제도일 뿐입니다. 허위·과장 광고나 사기, 전문자격 사칭까지 허용해주는 것은 아닙니다.

우리도 AI를 표시하는 이유

이 블로그도 글과 이미지 작업 과정에서 AI를 활용합니다. 그래서 AI를 숨기기보다 어디에 활용했는지를 알리는 쪽을 택했습니다.

부끄러워서가 아닙니다. 독자가 무엇을 보고 있는지 알고 판단할 수 있게 하기 위해서입니다.