미국 상무부 및 국무부, 샌프란시스코에서 국제 AI 안전 연구소 네트워크 출범
미국 상무부와 국무부는 샌프란시스코에서 국제 AI 안전 연구소 네트워크를 출범하며, 안전하고 신뢰할 수 있는 AI 안전성을 강화하고 글로벌 협력을 촉진하기 위한 공동 미션 선언문과 자금 지원을 발표했다. 이 네트워크는 AI의 위험을 관리하고, 안전성을 높이기 위한 다자간 연구 및 테스트를 통해 혁신을 지원할 계획이다.
네트워크의 목표
- 이 네트워크는 세계적으로 안전하고 신뢰할 수 있는 AI 혁신을 위한 과학적 기반을 구축하고 조화를 이끌어낼 목표를 가지고 있습니다.
- 회의에서 공동 미션 선언문과 1,100만 달러 이상의 자금 지원이 발표되었습니다.
- 네트워크의 첫 다자간 테스트 실험 결과가 공유되었으며, 고급 AI 시스템의 위험 평가에 대한 공동 성명이 발표되었습니다.
회의 개요
- 미국 상무부와 국무부는 국제 AI 안전 연구소 네트워크의 첫 회의를 공동 주최합니다.
- AI 안전성 과학을 발전시키고 연구 및 협력을 촉진하기 위한 글로벌 노력을 기울이고 있습니다.
- AI의 위험을 파악하고 완화할 강력한 국제 생태계를 조성하는 것이 필수적입니다.
네트워크 구성원
- 미국은 네트워크의 초대 의장국 역할을 하며, 초기 회원국으로 호주, 캐나다, 유럽연합, 프랑스, 일본, 케냐, 대한민국, 싱가포르, 영국이 포함됩니다.
- 참석한 기술 전문가들은 AI 안전성 협력에 필요한 주요 분야를 논의합니다.
우선 의제
- 이번 회의는 기술 회의 형식으로 진행되며, 합성 콘텐츠의 위험 관리, 기초 모델 테스트, 고급 AI 시스템의 위험 평가에 대해 논의합니다.
- 정부, 산업, 학계 및 시민 사회의 주요 지식을 모아 AI 안전성 및 혁신에 대한 국제 협력을 시작하는 것을 목표로 합니다.
주요 내용
- 공동 미션 선언문 채택 : 초기 회원국이 기술 전문가들이 모이는 포럼으로서의 역할을 강조
- 합성 콘텐츠 연구를 위한 자금 지원 발표 : 생성 AI의 발전으로 인해 발생하는 위험을 연구하고 완화하기 위한 긴급한 요청
- 다국적 AI 테스트 노력의 방법론적 통찰 : 첫 번째 공동 테스트 실험에서 방법적 도전과 기회를 탐색
- 고급 AI 시스템에 대한 위험 평가에 관한 공동 성명 : AI 시스템의 위험을 평가하는 것이 네트워크의 핵심 임무
- 새로운 연구 및 테스트 태스크포스 설립 : AI 모델 연구 및 테스트 협력을 위한 태스크포스를 조직
이 네트워크의 출범은 AI 안전성을 증진하기 위한 국제적 노력의 중요한 진전을 의미하며, 회원국들이 AI 기술의 잠재력을 극대화하는 데 힘쓸 것입니다.
댓글
댓글 쓰기