인공지능의 급속한 확산 속에서 ‘AI 안전’이 세계적 핵심 이슈로 떠오른 가운데,
서울이 그 논의의 중심 무대로 주목받고 있다.

과학기술정보통신부(장관 배경훈)가 주최하고 한국전자통신연구원 인공지능안전연구소(소장 김명주)가 주관하는 ‘2025 인공지능 안전 서울 포럼(Seoul Forum on AI Safety & Security, SFASS)’이 10월 28일부터 29일까지 서울 호텔 나루 엠갤러리에서 열린다.

이번 포럼의 주제는 ‘보다 안전한 인공지능 세상을 향한 글로벌 협력(Global Cooperation for a Safer AI Future)’이다.
국내외 학계·산업계·정부 등 150여 명의 전문가들이 참여해 AI 안전 거버넌스·평가·레드티밍(red teaming) 등
AI 위험을 예방하고 관리하기 위한 실질적 방안을 논의한다.

‘레드티밍(red teaming)’은 AI 시스템의 취약점, 편향, 악용 가능성을 모의 공격으로 검증하고
위험 요인을 조기에 발견·보완하는 핵심 절차로, 최근 전 세계 AI 안전 관리 체계의 중심으로 부상하고 있다.

행사 첫날에는 각국 인공지능안전연구소(AISI)의 활동과 프론티어 AI 모델 개발기관의 안전 확보 전략,
AI 평가기관의 검증 체계와 방법론 등이 발표된다.

일본·싱가포르·유럽연합(EU) 등 주요국의 AI 안전 기관 리더들이 직접 참여해
국제 협력의 방향성과 실제적 추진 방안을 모색할 예정이다.

국내에서는 LG AI연구원과 네이버 클라우드가, 해외에서는 앤트로픽(Anthropic)·구글(Google)·세이퍼 AI(Safer AI)·스케일 AI(Scale AI)·CARMA(Center for AI Risk Management & Alignment) 등
AI 선도기업과 기관이 함께한다.

이들은 AI 모델의 안전성 검증, 평가 체계 구축, 투명성 확보 방안 등을 중심으로 논의를 이어간다.

특히 ‘Korea AISI 대화 세션’에서는 한국 인공지능안전연구소의 실무 책임자들이 참여해
국내 AI 안전 평가·정책·연구의 추진 방향을 직접 공유한다.

한국이 AI 안전 기술의 표준화와 글로벌 협력의 허브로 도약하기 위한 비전도 함께 제시된다.

포럼 둘째 날에는 AI 안전 평가 방법론을 주제로 한 기술 중심 워크숍이 진행된다.

MLCommons, METR, Anthropic, Epoch AI, Future of Life Institute, 옥스퍼드대학(Oxford University) 등
세계 주요 평가기관과 연구진이 참여해 심층적인 기술 토론을 펼친다.

또한 한국 인공지능안전연구소와 미국 스케일 AI(Scale AI) 간의 업무협약(MOU) 체결을 통해
AI 안전 평가 연구 분야에서 양국 간 협력 기반을 공식화할 예정이다.

이번 포럼은 AI 시스템의 위험을 식별-평가-완화하는 기술적·정책적 접근을 총망라해 논의하는 자리로,
한국이 국제 AI 안전 거버넌스 협력체계의 주도국으로 자리매김하는 계기가 될 것으로 기대된다.

‘2025 인공지능 안전 서울 포럼’은 AI 기술의 발전 속도를 따라잡기 위한 안전 관리의 새로운 방향을 제시하는 국제회의다.
AI 시스템의 위험을 객관적으로 평가하고, 국가 간 협력을 강화해 “안전한 인공지능 생태계”를 구축하기 위한 실질적 방안을 제시한다.

한국은 이번 포럼을 통해 AI 안전의 글로벌 리더십 확보와 국제표준 논의 주도권 강화라는 두 가지 목표를 동시에 추진하게 된다.

2025 인공지능 안전 서울 포럼 소개

과학기술정보통신부(부총리 겸 과기정통부 장관 배경훈, 이하 ‘과기정통부’)가 주최하고, 한국전자통신연구원 인공지능안전연구소(소장 김명주)가 주관하는 ‘2025 인공지능 안전 서울 포럼(Seoul Forum on AI Safety & Security, 이하 SFASS)’이 10월 28일부터 29일까지 서울 호텔 나루 엠갤러리에서 개최된다. (사진제공)