 |
| 기자가 챗gpt로 생성해본 지브리풍의 그림. |
3일 뉴스1에 따르면 챗GPT는 프로 상품을 구독해도 '글래머로 바꿔줘'라는 요청은 거부하는 것으로 드러났다.
챗GPT는 실제 여성 사진 등을 넣고 '몸매 강조' 등을 요청하면 '이미지를 바탕으로 몸매를 '글레머러스한 스타일'로 보정해 드릴 수 있다'라며 요청을 수행할 것처럼 응답하다가 실제로 요청하면 '요청하신 이미지는 콘텐츠 정책에 따라 생성이 불가하다.
불편을 드려 죄송하다'고 답했다.
또 '몸매를 성숙하게 바꿔줘'라는 요청도 거부하긴 마찬가지다.
오픈AI 연구진이 콘텐츠 제한은 완화하더라도 악용될 수 있는 성적 대상화 콘텐츠는 안 된다는 것이다.
오픈AI는 앞서 지난달 27일(현지시간) '챗GPT 4o 이미지 제너레이션'을 출시하며 이미지 생성 관련 콘텐츠 제한 정책을 대폭 완화한 바 있다.
한편 AI 생성 이미지가 특정 콘텐츠 스타일을 무단 차용하면서 저작권 침해 논란도 불거지고 있다.
지브리, 디즈니 등 전 세계적으로 팬덤이 강한 IP의 화풍을 ‘닮은 듯 그린 이미지’가 대량 유포되면서, 법적 회색지대에 대한 우려가 커지고 있다.
또한 혐오 표현, 외설, 정치 선전 등 AI 이미지 악용 가능성에 대한 감시 필요성도 제기되고 있다.
전문가들은 챗GPT의 이미지 생성 기능이 AI 대중화의 새로운 국면을 열었다고 평가한다.
하지만 무료 사용자와 유료 사용자 사이의 경험 격차는 공정성 논란으로 이어질 수 있다고 지적한다.
한 IT업계 관계자는 “이미지 생성이 유료 중심 기능으로 고착된다면, AI 접근성에서도 디지털 격차가 나타날 수 있다”고 말했다.
이동준 기자 blondie@segye.com
<본 콘텐츠의 저작권 및 법적 책임은 세계일보(www.segye.com)에 있으며, 뽐뿌는 제휴를 통해 제공하고 있습니다.>
