AI 안전표준

국제 AI 안전표준이 나올 예정입니다. 4대 글로벌기업이 함께 참여한 프론티어 모델 포럼(Frontier Model Forum)을 소개합니다. 드디어 조금씩 공식적인 기준이 마련되는 것 같군요.

목 차

모든 제품에는 안전기준이 있습니다. 하지만 AI라는 품목이 구체적으로 등장한건 얼마되지 않은 이야기입니다. 이미 몇 년전부터 AI에 대해서도 국제적으로 통용되는 표준이 필요한 것이 아닌가? 라는 이야기가 나왔었죠.

유럽 AI Act

사실 유럽은 AI Act 라는 이름으로 관련법을 만들고 있습니다. 전세계에서 새로운 규제는 보통 유럽에서 시작되는 경우가 많기 때문에 이번에도 어김없이 인공지능(AI)를 표준화시키는 작업을 하고 있었습니다.

유럽연합 AI Act 초안

그런데 문제는 2023년 1월부터 세상이 바뀌었다는 겁니다. 원래 올해 말까지 AI Act가 채택될 예정이었으나, 갑자기 등장한 chatGPT로 인해 많은 부분이 바뀔 예정입니다.

왜냐하면 위에 언급된 초안(Proposal)에는 챗봇(chatbot)과 관련된 내용이 없기 때문입니다. 실제로 딱 1번의 단어만 등장하며, 불과 작년까지만 해도 우리에게 문제가 되는 건 딥페이크(deep fake)뿐이었습니다.

이번에 chatGPT와 함께 안전표준에 대한 이야기가 전세계적으로 진행되고 있습니다.

그런 와중에 갑자기 등장한게 프론티어 모델 포럼(Frontier Model Forum) 입니다.

프론티어 모델 포럼

2023년 7월 26일, 글로벌 4대 기업(마이크로소프트, 구글, 오픈AI, 앤스로픽)은 프론티어 모델 포럼 이라는 협의체를 구성했습니다. ms, 구글 ai 안전표준 개발 협의체를 살펴보겠습니다.

이번에 결성한 이유는 AI모델의 책임성을 강화하고, 안전성을 확보하는 것이라고 합니다. 오픈AI의 발표에 따르면 “첨단AI시스템의 안전하고 책임있는 개발을 촉진하기 위해 새로운 산업단체를 구성했다” 라고 발표했습니다.

앞으로 모범사례와 표준을 식별하고 정책 입안자와 업계 간의 정보 공유를 촉진할 계획이라고 하는군요.

AI 안전표준과 관계는?

분명 관련법은 유럽에서 먼저 나올 겁니다. 다만 이전에 프론티어 모델 포럼의 의미는 AI 안전표준에 큰 관계가 있습니다.

바로 구글과 마이크로소프트가 손을 잡았다는 겁니다. (안전 관점)

다만 이는 어디까지나 안전을 강화하자는 목적에서 손을 잡은 것으로, 기술/마케팅 관점에서 손을 잡은건 아니라는게 중요합니다. 일단 안전표준을 함께 만들어서 무분별한 사용을 막자는 것이 주 목적입니다.

마이크로소프트에서 발표한 공식문서에는 앞으로의 목표와 회원가입(멤버쉽) 조건 등이 포함되어 있습니다.

프론티어 모델 포럼의 핵심 목표

이번에 4개 기업이 공동으로 발표된 핵심 목표는 다음과 같습니다.

프론티어 모델의 책임 있는 개발을 촉진하고, 위험을 최소화하며, 기능과 안전에 대한 독립적이고 표준화된 평가를 가능하게 하는 AI 안전 연구를 발전
프론티어 모델의 책임 있는 개발 및 배포를 위한 모범 사례를 식별하여 대중이 기술의 특성, 기능, 제한 및 영향을 이해하도록 도움
정책 입안자, 학계, 시민 사회 및 기업과 협력하여 신뢰 및 안전 위험에 대한 지식을 공유
기후 변화 완화 및 적응, 조기 암 발견 및 예방, 사이버 위협 퇴치와 같은 사회의 가장 큰 문제를 해결하는 데 도움이 될 수 있는 애플리케이션 개발 노력을 지원

시작은 4개 기업이지만, 앞으로 많은 회원사들을 모집할 계획입니다. 회원자격은 다음과 같습니다.

회원가입기준

프론티어 모델을 개발 및 배포
기술 및 제도적 접근을 포함하여 프론티어 모델 안전에 대한 강력한 의지를 보여줄 것
공동 이니셔티브에 참여하고 이니셔티브의 개발 및 기능을 지원하는 것을 포함하여 포럼의 노력을 발전시키는 데 기여할 의향이 있을 것

프론티어 모델 포럼 작동 방식

앞으로 수개월동안 프론티어 모델 포럼의 작동 방식에 대한 연구가 진행됩니다. 다양한 배경과 관점을 대표하는 전문위원회(Advisory Board)를 구성하여, 전략 및 우선순위를 설정합니다.

또한 4개 창립맴버들은 거버넌스(Governance), 헌장(charter), 자금 조달(Funding) 등 제도적 장치를 마련하며, 이후 실무그룹과 집행위원회를 구성합니다.

또한 정부 및 시민사회와 함께 포럼설계구성에 따라 운영방안을 협의할 예정입니다.

여기서 중요한 점은 기존 AI 안전표준과 연관되는 국제협약들에 뒷받침할 수 있는 기회 및 정보를 제공하는 것도 포함된다는 점입니다.
1. G7 히로시마 프로세스, 2. OECD의 AI리스크, 표준, 사회적 영향 분석 3. US-EU 무역기술위원회 등

위에서 언급한 유럽의 AI Act도 영향을 받게 될 것으로 보입니다. 유럽연합의 위원들과 기업들의 협의를 통해, 안전표준이 발표되기 전 초안을 수정하는 작업이 여러 번 진행되면 기존에 발표된 초안은 상당부분 변경됩니다.

유럽 AI Act 수정 상황

chatGPT의 등장과 함께 이미 유럽 AI Act도 수정한 사례가 있습니다.

이번 프론티어 모델 포럼의 등장과 함께 다음번에는 어떤 변화가 있을지 궁금해 지는군요.

한국과 미국 사이버보안 협력

한국도 마찬가지로 사이버보안과 관련된 협력관계를 구축하고 있습니다. 올해 4월 미국 바이든 대통령과 정상회담을 진행하며, 그 중 사이버공간에서의 안보에 대한 논의도 진행되었습니다.

물리적 협력관계에서 이제는 사이버 상에서의 협력까지 확장하며, 정보공유를 포함한 보안기술, 정책, 전략차원에서 신뢰를 구축할 계획입니다.

기타 참고 글 – 생물다양성 협약

[visual-link-preview encoded=”eyJ0eXBlIjoiaW50ZXJuYWwiLCJwb3N0IjoxNDAzLCJwb3N0X2xhYmVsIjoi6riAIDE0MDMgLSDsg53rrLzri6TslpHshLHtmJHslb0oQ0JEKSDsnZggMjAzMCDrqqntkZwgQ09QIDE1IiwidXJsIjoiIiwiaW1hZ2VfaWQiOjE0MDYsImltYWdlX3VybCI6Imh0dHBzOi8vd3d3LmtiaXppbi5jb20vd3AtY29udGVudC91cGxvYWRzLzIwMjMvMDIv7IOd66y864uk7JaR7ISx7ZiR7JW9LTE1MHgxNTAuanBnIiwidGl0bGUiOiLsg53rrLzri6TslpHshLHtmJHslb0oQ0JEKSDsnZggMjAzMCDrqqntkZwgQ09QIDE1Iiwic3VtbWFyeSI6IuycoOyXlCDsg53rrLwg64uk7JaR7ISxIO2ajOydmChDT1AgMTUp64qUIDIwMzDrhYTsnYQg7JyE7ZWcIOyDiOuhnOyatCDquIDroZzrsowg66qp7ZGc66W8IOyxhO2Dne2WiOyKteuLiOuLpC4gQ09QIDE1IOycoOyXlCDquLDtm4Trs4DtmZQg7ZqM7J2YIDIwMjLrhYQgMTLsm5QgMjDsnbwsIOycoOyXlO2ZmOqyveqzhO2ajShVTkVQKeydgCDsnKDsl5Tsg53rrLzri6TslpHshLHtmJHslb0oQ0JEKSAiLCJ0ZW1wbGF0ZSI6InNpbXBsZSJ9″]