K-SMARTFACTORY

Trend

인공지능(AI)의 안전성과 규제 동향

2024-09-11

인공지능(AI)의 안전성과 규제 동향

오픈AI의 챗GPT가 등장한 이후 AI 사용에 관한 관심이 높아지고 있다.

비즈니스의 다양한 영역에 AI 도입 및 활용으로 그 어느 때보다 기업과 조직에서 업무 효율성과 생산성을 높이고 비용 절감 효과가 실현될 것으로 예상된다.

또한, AI 기술의 고도화로 새로운 비즈니스 모델과 비즈니스 기회가 창출될 것으로 보인다.

한편 특정 플랫폼에 대량의 데이터가 수집되므로 정보 유출, 개인 정보 침해 및 사이버 공격과 같은 위험에 대해 우려가 크다.

이러한 상황 속에서 미지의 가능성이 잠재되어 있는 AI 개발과 안전하게 활용하는 방법에 대한 논의가 전 세계적으로 활발히 이루어지고 있다.

AI가 기업이 제공하는 제품과 서비스, 더 나아가 사람들의 삶에서 혁신의 원동력이 될 것이라는 점에는 의심의 여지가 없다.

그러나 AI를 신뢰할 수 있고 위험에 대해 안전한 환경이 조성되지 않으면 AI 혁신의 혜택을 활용하기 어려울 것이다.

아래에 AI의 안전성과 규제에 대해 국제적으로 지금 논의되고 있는 동향을 살펴본다.

AI 안전 및 규제법 제정 현황

최근 몇 년 동안 AI 기술의 개발과 확산으로 AI의 안전성에 대한 논의와 규제법 제정이 국제적으로 진행되고 있다.

가장 일반적인 몇 가지 예를 소개한다.

● 유럽연합(EU)은 2024년 8월 1일 세계 최초로 포괄적 AI 규제법을 발효했다.

EU AI규제법은 법치와 민주적 권리, 환경의 지속 가능성 보호 그리고 유럽에서의 기술혁신추진 사이에서 균형을 유지하기 위한 법규이다.

시민의 권리를 위협하는 AI 애플리케이션과 법 집행 기관의 생체인식 정보시스템 사용은 금지된다.

이 법안은 AI의 위험도를 사용 목적과 콘텐츠에 따라 구분하고, 각 등급에 대한 규제 내용을 담고 있다.

EU 회원국이 승인하고 시행하면 위반 기업에 대해 벌금을 부과하게 된다.

● 미국에서는 2023년 10월 바이든 대통령이 AI에 대한 첫 행정령인 안전하고, 안심할 수 있으며, 신뢰할 수 있는 AI 개발 및 사용을 대통령령으로 발표했다.

AI의 안전성과 보안성 향상을 목적으로, 개발기업은 서비스 등을 제공하기 전에 정부로부터 안전 평가를 받도록 의무 사항이 포함되어 있다.

그러나 향후 제공될 신규 서비스에 국한될 것으로 보이며, AI의 안전성을 고려하면서 AI 분야의 혁신과 경쟁을 주도하려는 미국의 의도를 보여주고 있음을 시사한다.

미국의 향후 방향성은 2024년 11월 대통령 선거 결과와 연방하원 의원, 지방선거의 결과에 따라 변화가 있을 수 있다.

● 일본은 2023년 5월 G7 히로시마 서밋 이후 생성형 AI에 대한 국제 규제를 검토하기 위한 프레임 워크 “히로시마 AI 프로세스”를 채택했다.

2024년 1월 AI 사업자를 위한 가이드라인 안이 정식으로 발표되어 3개월간 여론을 수렴한 후 4월에 “AI 사업자 가이드라인”이 공표되었다.

● 2023년 11월 영국에서 국제컨퍼런스 “AI 안전 서밋”이 개최되어 29개국이 AI 안전성에 관한 국제 협력 선언 “브렛칠리 선언(Bletchley Declaration)”에 서명했다.

이 선언문은 우려되는 위험을 정하고, 과학적 이해 심화와 국가 간 정책구축의 필요성을 지적하고 있으며, 이 서밋은 앞으로도 계속 이어질 것이다.

AI 개발과 활용 기업의 직면 과제

이처럼 AI의 안전성에 관한 다양한 논의와 규제가 세계적으로 진행되고 있다.

동시에 AI 개발자와 AI를 통합한 제품과 서비스를 제공하는 기업도 AI의 안전성을 확보하기 위한 자발적인 대책을 세워야 한다.

미국에서는 구글, 마이크로소프트, 오픈AI가 AI의 안전성을 고려해 설립한 산업단체 “Forontier Model Forum”에서 AI의 안전성 규제는 고위험인 것에만 적용해야 한다고 제언하고 있다.

또한 개방적이고 혁신적인 개발 환경을 보장하기 위해 규제의 영향에 취약한 스타트업과 학술 연구는 보호할 필요가 있다고 주장한다.

기업들은 생성형 AI를 사용할 회사 내 인적 자원 부족, 비즈니스 적용에 대한 아이디어 부족, 생성형 AI의 할루씨네이션 및 개인 정보 침해 같은 해결 과제가 있다.

비즈니스를 성장시키고 확장하기 위해서는 AI와 AI가 가져오는 혁신을 효과적으로 활용하고, 법규를 준수하면서 안전과 고객의 신뢰를 확보할 수 있는 시스템과 환경을 구축하는 일이 지금 세계적으로 시급한 과제이다.