인공지능(AI) 업계의 리더들 인류멸종 위험을 경고하는 성명에 서명

샘 알트먼 OpenAI 최고경영자(CEO)와 데미스 하사비스 Goodle DeepMind 최고경영자(CEO) 등 인공지능(AI) 업계 지도자들이

다수의 과학자 및 저명인사들과 함께 첨단 AI의 인류에 대한 잠재적 위협에 대해 경고하는 성명에 서명했다.

한 문장 길이의 간결한 그 성명서는 비영리 단체인 Center for AI Safety 의 웹사이트에 공개되었다. 

성명서에는 "AI에 의한 멸종 위험을 완화하는 것은 전염병과 핵전쟁 같은 다른 사회적 규모의 위험과 함께 세계적인 우선순위가 되어야 한다"고 기록되어 있다.

참조 | https://www.safe.ai/statement-on-ai-risk#open-letter

지난해 OpenAI의 ChatGPT와 Dall-E2를 발표한 데 이어 최근 몇 달간 거의 모든 주요 IT 기업이 AI 챗봇이나 기타 생성 AI 툴을 출시했다. 

AI 기술이 우리의 일상 생활에 파고들기 시작했다. 웹에서 정보를 검색하는 방법에서부터 건강 메뉴를 만드는 방법에 이르기까지 모든 것을 바꿀 수 있다. 

연속적으로 날아오는 화살처럼 AI 툴의 출시 경쟁 상황에서 규제 없는 개발이 계속될 경우 과학자들과 업계 전문가들이 기술의 위험성에 대한 우려의 목소리를 내기 시작했다.

첨단 AI기술의 잠재적 위협에 대한 경고가 최근 계속되고 있는 가운데 이번 성명도 그 흐름을 이어가고 있다. 

5월25일 AI 업계 선두주자이자 OpenAI 투자사인 MS는 악용이나 잠재적 위험에 선제적으로 대응하기 위해서는 AI 규제가 필요하다는 내용의 40쪽 분량의 보고서를 발표했다.

지난 3월 테슬라와 트위터 최고경영자(CEO) 일론 머스크와 애플 공동창업자 스티브 워즈니악 등 천명이 넘는 IT 업계의 리더들은 기업들이 첨단 AI 프로젝트에 대한

개발을 최소 6개월간 중단하거나 업계 표준과 프로토콜이 따라잡을 때까지 중단할 것을 요구하는 공개 서한에 서명했다.

참조 | https://query.prod.cms.rt.microsoft.com/cms/api/am/binary/RW14Gtw

"우리는 우리 문명에 대한 통제력을 잃는 위험을 감수해야 할까?”

지난 3월 22일 발간된 이 서한에는 "이러한 결정은 선출되지 않은 기술 리더들에게 위임되어서는 안 된다"며 "강력한 AI 시스템은

효과가 긍정적이며 위험을 관리할 수 있다는 확신이 있어야만 개발해야 한다"고 적혀 있다

한편, 일부 비평가들은 기술 리더들이 기술의 미래 위험에 주목하는 이유로 AI에 대하여 환상적인 생각을 가지는 경향,

AI 챗봇이 신속한 답변을 도출하는 방법에 대한 불분명성, 데이터 개인 정보 보호 및 표절 우려 같은 현실적인 문제를 해결하지 못하고 있기 때문이라고 지적하고 있다. 

참조 | https://www.cnet.com/tech/ai-industry-leaders-sign-statement-warning-of-extinction-level-risks/​