어도비가 이스라엘-하마스 전쟁을 현실감 넘치게 묘사한 AI가 생성한 이미지를 판매하고 있으며, 이렇게 판매된 이미지 중 일부가 AI에 의해 생성된 가짜 이미지라는 표시 없이 온라인에 공유되고 있는 것으로 알려졌다.

비즈니스 인사이더의 보도에 의하면, 어도비가 AI로 생성한 이스라엘-하마스 전쟁 관련 이미지를 '어도비 스톡(Adobe Stock)'을 통해 판매하고 있으며, 이런 이미지가 일부 소규모 웹사이트는 물로이고 소셜 미디어 등을 통해 온라인으로 공유되면서, 사람들에게 전쟁에 대해 잘못된 견해와 오해를 불러일으킬 수 있다고 지적했다.

'어도비 스톡'은 모든 AI가 생성한 이미지에 대해 라벨을 부착하도록 요구하지만, 판매 중인 일부 이미지는 제목이 아닌 작은 글씨로 'AI-generated'라고 표시돼 있을 뿐이다.

그리고 이렇게 SNS 등을 통해 유포된 이미지는 또 다른 오해를 낳을 수 있기 때문에, 이에 대한 대책 마련이 필요하다.

어도비는 비즈니스 인사이더에 보낸 성명에서 "어도비는 잘못된 정보에 맞서 싸우기 위해 노력하고 있으며, '콘텐츠 신뢰성 이니셔티브(Content Authenticity Initiative)'를 통해 게시자, 카메라 제조업체, 기타 이해관계자와의 협력으로 콘텐츠 자격증명(Content Credentials)을 적용을 시도하고 있다"며, "콘텐츠 자격증명을 통해 사람들은 디지털 콘텐츠의 생성과 편집에 AI 도구가 사용됐는지 여부를 포함해 디지털 콘텐츠가 어떻게 캡처, 생성, 편집됐는지에 대한 정보를 확인할 수 있다"고 설명했다.

생성AI의 품질이 나날이 개선되면서, AI로 생성된 콘텐츠의 진위 여부를 파악하는 것이 점점 힘들어지고 있으며, 얼마 전에는 트럼프 전 미국대통령의 체포장면을 묘사한 생성AI 이미지가 논란이 된 바 있었다.

AI가 생성한 이미지를 바로 사용하는 것이 아닌, 적절한 편집을 거쳐 사용할 경우, 진위 여부를 파악하는 것은 더욱 어려울 수 있기 때문에 이와 관련된 대비책이 필요해 보인다. 오픈AI는 달리-3로 생성된 이미지를 판별할 수 있는 도구를 제공한다고 하지만 이미지를 생성하는 AI가 지속적으로 등장하고 있으며, 이미지 품질 또한 지속적으로 개선되고 있기 때문에, 이를 정확히 판별하는 것은 점점 더 어려워질 것으로 보인다.

비즈니스 인사이더는 이런 문제에 대응하기 위해 '리버스 이미지 서치(reverse image search)와 같은 방법을 통해 이미지의 맥락을 추적해 볼 것을 권하고 있다.