AI 안전협력의 새로운 전환점, 서울에서 열린 세계적 논의의 장
서울 여의도 한강변에 위치한 호텔 나루 엠갤러리에서 10월 28일, 전 세계 인공지능(AI) 안전 전문가들이 한자리에 모인 ‘2025 인공지능 안전 서울 포럼(Seoul Forum on AI Safety & Security, SFASS)’이 성대하게 개막했다. 이번 포럼은 **과학기술정보통신부(장관 배경훈)가 주최하고, 한국전자통신연구원(ETRI) 인공지능안전연구소(소장 김명주)**가 주관해 마련된 자리다.
‘보다 안전한 AI 세상을 향한 글로벌 협력(Global Cooperation for a Safer AI Future)’을 주제로 한 이번 포럼은 인공지능 기술 발전 속도에 비례하여 커져가는 AI 안전성·신뢰성 확보 문제를 국제적 차원에서 논의하기 위한 자리로, 국내외 전문가 150여 명이 참석하며 뜨거운 관심을 모았다.
AI 안전 거버넌스의 글로벌 협력 논의 시작
개회식에서는 송상훈 국가인공지능전략위원회 지원단장이 축사를 전하며 “AI의 폭발적 성장 속에서 안전성 확보는 더 이상 선택이 아니라 필수”라며 “이번 포럼을 통해 한국이 글로벌 AI 안전 논의의 중심축으로 자리잡기를 기대한다”고 말했다.
이어 김명주 ETRI 인공지능안전연구소 소장은 환영사를 통해 “AI 기술의 발전은 인류에게 큰 기회이지만, 그만큼 위험요소도 커지고 있다”며 “AI 안전은 한 나라의 문제가 아닌 국제 사회의 공동 과제이며, 이를 위해 각국이 신뢰를 기반으로 협력해야 한다”고 강조했다.
첫날 주요 세션 – AI 안전연구소 네트워크부터 빅테크 안전전략까지
첫날 포럼에서는 다양한 주제의 세션이 이어졌다.
AI 안전연구소 글로벌 네트워크 구축, 빅테크 기업의 안전개발 전략, AI 모델 평가 체계, 한국 인공지능안전연구소의 실천적 연구 접근 등이 논의됐다.
특히 일본·싱가포르의 AI 안전연구소, 유럽연합(EU) AI 사무국, 그리고 앤트로픽(Anthropic), 구글(Google), LG AI연구원, 네이버클라우드, 세이퍼 AI(Safer AI), 스케일 AI(Scale AI), CARMA(Center for AI Risk Management & Alignment) 등 세계 주요 기관들이 대거 참여했다.
이들은 AI의 책임 있는 개발(Responsible AI), 모델 평가와 검증 절차, 레드티밍(Red Teaming) 기법을 통한 취약점 점검, 그리고 글로벌 규범 정립 방향에 대해 심도 있는 토론을 펼쳤다.
한국 AI 안전정책의 새로운 도약
이번 포럼은 단순한 기술 발표 자리를 넘어, 한국이 추진하는 AI 안전 정책의 국제적 위상을 보여주는 장으로 평가된다.
한국 인공지능안전연구소 실무책임자들과의 대화 세션에서는 국내 AI 안전연구의 현황과 향후 전략, 공공·민간 협력 강화 방안, 국제 공동 연구 네트워크 구축 등이 공유됐다.
또한, 한국이 개발 중인 AI 안전성 평가 체계가 글로벌 벤치마크로 발전할 가능성이 제시되며, 기술적 검증뿐 아니라 정책·윤리적 접근의 조화가 필요하다는 의견이 다수 제시됐다.
둘째 날: AI 평가·벤치마킹·레드티밍 실습 본격화
29일(수)에는 AI 시스템 평가 및 벤치마킹 세션, 그리고 ‘프론티어 AI 안전을 위한 레드티밍’ 프로그램이 이어질 예정이다.
AI 시스템 평가 세션에는 MLCommons, METR, 앤트로픽(Anthropic), 에포크 AI(Epoch AI), Future of Life Institute(FLI), 옥스퍼드대학(Oxford University) 등 세계 주요 평가 기관 및 연구진이 참여한다.
특히, 이번 포럼의 하이라이트는 한국 인공지능안전연구소와 미국 스케일 AI(Scale AI) 간의 양해각서(MOU) 체결식이다. 이 협약은 AI 평가·레드티밍·안전연구 고도화를 위한 글로벌 협력체계의 공식 출범을 의미한다.
협약 체결 후 양 기관은 공동 레드티밍 세션을 진행하며, 실제 AI 모델의 보안 취약점 테스트, 비의도적 출력 탐지, 위험 시나리오 대응 전략 등을 실습한다.
글로벌 AI 안전 플랫폼으로서의 가능성 확인
첫날 논의를 통해 이번 ‘2025 인공지능 안전 서울 포럼’은 단순한 회의가 아닌, 실질적 협력의 장으로 자리매김했다.
참석자들은 “AI 안전 거버넌스 구축은 기술과 제도의 경계를 넘어선 새로운 국제 규범 형성의 시작점”이라고 입을 모았다.
김명주 소장은 “서울 포럼을 정례화해 한국이 아시아 AI 안전 거버넌스의 허브로 도약하도록 하겠다”고 밝혔으며, 송상훈 단장은 “국가 차원의 AI 안전기준 수립에 이번 포럼의 논의가 중요한 밑거름이 될 것”이라고 말했다.
AI 안전, 기술의 속도보다 신뢰가 앞서야
AI는 이미 산업, 금융, 의료, 국방 등 사회 전 영역에 깊숙이 침투하고 있다. 하지만 그만큼 편향, 악용, 예측 불가능성 등 안전 문제가 대두되고 있다.
이에 이번 포럼은 “기술의 속도보다 신뢰가 앞서야 한다”는 메시지를 명확히 했다.
한국전자통신연구원은 이번 포럼을 계기로, AI 안전성 평가 프로토콜 고도화, 국제 공통 기준 마련, 안전연구 협력센터 설립 등을 추진할 계획이다.
참석 기관 요약
| 구분 | 주요 기관 및 기업 | 주요 내용 |
|---|---|---|
| 국제 AI 연구기관 | EU AI Office, Oxford University, FLI | AI 평가 기준·거버넌스 논의 |
| 글로벌 빅테크 | Google, Anthropic, Scale AI | AI 안전개발, 레드티밍 경험 공유 |
| 국내 연구기관 | ETRI, LG AI연구원, 네이버클라우드 | 국내 AI 안전 정책 및 평가 체계 공유 |
| 협력 체결 | 한국 AI안전연구소 – Scale AI | 평가·레드티밍·공동연구 MOU 체결 |
관련 링크
- 과학기술정보통신부 공식 홈페이지: https://www.msit.go.kr
- 한국전자통신연구원(ETRI): https://www.etri.re.kr
- 스케일 AI(Scale AI): https://scale.com
- Future of Life Institute: https://futureoflife.org
- MLCommons: https://mlcommons.org
FAQ
Q1. ‘AI 안전 서울 포럼’의 주요 목적은 무엇인가요?
A. 이번 포럼의 핵심 목적은 인공지능의 폭발적 성장 속에서 국제적 안전 기준과 평가 체계를 마련하기 위함입니다. 각국의 AI 안전연구소, 빅테크, 정부 관계자들이 모여 기술적 위험 대응 전략과 글로벌 거버넌스 구축 방향을 논의했습니다.
Q2. 레드티밍(Red Teaming)이란 무엇인가요?
A. 레드티밍은 AI 모델의 취약점을 실제 공격자 관점에서 테스트해 잠재적 위험을 사전에 탐지하는 절차입니다. 예를 들어, 악의적 프롬프트 유도나 비의도적 결과 출력 등을 점검함으로써, AI 시스템의 안전성을 강화하는 핵심 과정입니다.
Q3. 스케일 AI와의 협약은 어떤 의미가 있나요?
A. 스케일 AI는 세계적 AI 평가 기업으로, 이번 협약을 통해 한국 인공지능안전연구소는 글로벌 수준의 AI 평가·레드티밍 노하우를 공유받게 됩니다. 이는 한국이 AI 안전 거버넌스 허브로 성장할 발판이 될 전망입니다.
Q4. 한국의 AI 안전 정책은 어떻게 발전하고 있나요?
A. 한국은 현재 AI 기본법, AI 신뢰성 인증제, AI 윤리기준 고도화 등을 추진 중이며, 인공지능안전연구소를 중심으로 AI 안전성 평가체계의 국제표준화를 목표로 하고 있습니다.
Q5. 이번 포럼의 향후 계획은 어떻게 되나요?
A. 과학기술정보통신부와 ETRI는 ‘AI 안전 서울 포럼’을 매년 정례화하고, 향후 아시아-유럽 AI 안전연합 네트워크 구축을 목표로 협력 범위를 확장할 예정입니다.
댓글 남기기