구글·오픈AI 등 美 AI기업, 생성 콘텐츠에 워터마크 넣기로
AI 활용 정보조작 우려 속 마이크로소프트·메타 등도 안전조치 약속
백악관 "한국 등 동맹과 협력해 AI 국제프레임워크 만들 것"
챗GPT
[챗GPT 화면 캡처. 재판매 및 DB 금지]
알파벳(구글 모회사), 메타, 마이크로소프트, 아마존, 오픈AI 등 7개 주요 인공지능(AI) 기업이 AI로 만든 콘텐츠에 워터마크를 넣는 등 안전 조치를 자발적으로 취하기로 했다.
이들은 AI를 활용한 사기나 속임수 등을 차단하기 위해 이런 조치를 자발적으로 취하기로 약속했다고 미국 백악관이 21일(현지시간) 밝혔다.
이들 기업은 ▲ AI 시스템의 기능, 한계, 적절한 사용 영역 등 공개 ▲ 유해한 편견, 차별을 방지하고 개인정보를 보호하는 것을 포함해 AI의 사회적 리스크에 대한 우선적 연구 ▲ 제3자에 의한 AI 시스템의 취약성 발견 및 보고 촉진 등에 대해서도 약속했다.
또 AI 시스템을 출시하기 전에 내부는 물론 외부 안전 테스트를 실시하고 AI 위험 관리에 관한 정보를 업계 및 정부, 시민 사회, 학계 등과 공유키로 했다.
AI 기업의 이번 조치는 오픈AI가 챗GPT를 출시한 것과 맞물려 AI 활용에 대한 우려가 미국 안팎에서 커지는 것에 대한 대응 차원이다.
특히 내년 11월 미국 대선 때 딥페이크 등 AI 기술을 활용한 정보 조작이나 가짜뉴스가 극성을 부릴 수 있다는 전망도 나온 상태다.
실제 지난 5월 공화당 전국위원회(RNC)는 AI가 생성한 이미지를 활용해 재선 도전을 선언한 조 바이든 대통령을 공격했으며 도널드 트럼프 전 대통령이 체포되는 가짜 AI 사진이 인터넷상에 돌기도 했다.
이런 이유로 미국 상원에서는 AI 규제와 활용 등에 대한 포괄적 입법 패키지를 만들기 위해 전체 의원을 대상으로 하는 브리핑을 진행하고 있다.
백악관은 "새 기술을 개발하는 기업은 제품의 안전성을 보장할 책임이 있다"면서 "AI의 잠재력을 최대한 활용하고 혁신이 미국인의 권리와 안전을 희생시키지 않도록 하기 위해 바이든 정부는 업체들이 최고 수준의 표준을 유지할 것을 권고하고 있다"고 말했다.
이어 한국을 비롯해 20개 국가의 이름을 열거한 뒤 "바이든 정부는 동맹 및 파트너 국가와 협력해 AI의 개발 및 사용을 관리하기 위한 강력한 국제 프레임워크를 만들 것"이라고 말했다.
연합뉴스 제공 (케이시애틀 제휴사)
