‘포괄 금지→실질적 피해 방지’ 전환
일각 “AI콘텐츠 문화전쟁 대두” 경고
이미지 생성 인공지능(AI) 모델을 출시해 화제인 오픈AI가 민감한 이미지 생성에 대한 제한을 풀었다고 밝혔다.
혐오 표현 등 비윤리적 이용이 확산할 수 있다는 우려가 나온다.
오픈AI의 조앤 장 모델행동 총괄은 지난 27일(현지시간) 자신의 블로그와 엑스(X·옛 트위터)에 올린 글을 통해 ‘챗GPT-4o 이미지 생성’(ChatGPT-4o Image Generation) 모델 출시에 따른 콘텐츠 정책 변경 내용을 알렸다.
그는 이 모델이 “창의적 자유를 허용하는 데 있어 새로운 주요 이정표”라고 하면서 “민감한 영역에 대한 포괄적인 거부에서 현실 세계에서의 실제 피해를 방지하는 데 초점을 맞춘 더 정밀한 접근 방식으로 전환하고 있다”고 밝혔다.
이어 “AI 연구소 직원은 사람들이 무엇을 만들고 무엇을 만들지 말아야 할지 허용하는 중재자가 되어서는 안 된다”며 “우리는 실질적인 피해를 방지하면서 창의적 자유를 극대화하는 것을 목표로 삼았다”고 부연했다.
가령 공인이나 특정 집단에 모욕적일 수 있는 콘텐츠 생성 규제도 풀린다.
기존엔 도널드 트럼프 대통령 등 특정인 이미지 활용이 불가능했지만 앞으로는 유명인을 포함해 모든 사람의 이미지가 모방될 수 있게 하고, 당사자가 원치 않는다고 할 경우에만 이미지 생성이 되지 않게 한다는 것이다.
또 혐오표현이나 상징도 ‘포괄금지’ 규제에서 벗어난다.
그는 나치를 상징하는 스와스티카 같은 문양을 사례로 들며 이것이 교육적이거나 문화적인 맥락에서 사용될 수 있다면서 “그것들을 완전히 금지하면 의미 있는 대화와 지적인 탐구까지 없앨 수 있다”고 설명했다.
그러면서 “대신에 우리는 유해한 오용을 더 잘 식별하고 거부할 수 있는 기술적 방법을 반복하고 있다”고 했다.
온라인 IT 매체인 테크크런치는 오픈AI의 이런 정책 변경에 대해 “이제 AI 콘텐츠 관리를 둘러싼 문화 전쟁이 대두될 수 있다”고 지적했다.
김예진 기자 yejin@segye.com
<본 콘텐츠의 저작권 및 법적 책임은 세계일보(www.segye.com)에 있으며, 뽐뿌는 제휴를 통해 제공하고 있습니다.>
0
0
