AI 기술의 급속한 발전과 함께 안전성과 신뢰성 확보가 국제 사회의 핵심 과제로 떠오르는 가운데 세계 각국의 전문가들이 서울에 모인다.

과학기술정보통신부가 주최하고 한국전자통신연구원 인공지능안전연구소가 주관하는 ‘Seoul Forum on AI Safety & Security 2026(SFASS 2026)’가 오는 7월 7일부터 8일까지 서울 오크우드 프리미어 코엑스 센터 아이티스퀘어에서 열린다. 이번 행사는 AI 안전과 보안, 국제 표준화, 글로벌 협력 방안을 논의하는 국제 포럼으로 마련됐다.

국내외 전문가들이 AI 안전의 미래 방향을 함께 모색한다.

올해 포럼은 ‘AI 안전·보안 및 관련 표준에 관한 노력과 향후 협력 방향’을 주제로 정부와 학계, 산업계 전문가들이 한자리에 모여 기술 발전과 정책, 국제 협력 전략을 논의한다. 현장 수용 인원을 넘어서는 참가 신청이 접수되면서 온라인 생중계도 함께 진행될 예정이다.

논의의 중심도 기초 연구에서 실질적 실행 단계로 확대됐다.

지난해 첫 포럼이 AI 안전의 기본 개념과 정책 방향을 다뤘다면 올해는 문화적·지역적 특성을 반영한 AI 평가 체계와 자율형 AI 에이전트 시대의 보안 과제, 국제 표준화 전략 등 보다 구체적인 기술 구현과 협력 방안이 주요 의제로 제시된다.

국제 머신러닝 학술대회와 연계한 글로벌 협력도 주목된다.

이번 행사는 세계적인 머신러닝 학술대회인 ICML 2026과 연계해 개최된다. 이를 통해 글로벌 AI 연구자들과의 교류를 확대하고 국내 AI 안전 연구 성과를 국제 연구 생태계와 연결하는 계기가 될 것으로 기대된다.

첫날에는 AI 안전 표준과 다국적 공동 연구 성과가 소개된다.

7일에는 MLCommons와 Google, Microsoft가 참여하는 세션을 통해 AI 안전과 보안 표준 구축 방향이 논의된다. 특히 아시아·태평양 지역 연구기관이 공동 개발 중인 ‘AILuminate 문화 특화 멀티모달 안전 벤치마크’의 중간 연구 성과가 공개될 예정이다.

이번 프로젝트에는 한국을 비롯해 인도, 싱가포르, 파키스탄, 태국, 방글라데시 등 여러 국가의 연구기관이 참여하고 있으며, 국내에서는 인공지능안전연구소와 서울대학교, 연세대학교, KAIST가 공동 연구를 수행하고 있다. 연구 결과는 향후 다문화·다국어 AI 위험성과 신뢰성을 평가하는 국제 연구 논문으로도 발표될 예정이다.

아시아 지역 AI 안전 기준 마련을 위한 논의도 이어진다.

한국과 싱가포르, 대만 등 주요 국가 연구자들은 Lightning Talk 세션에서 각국의 AI 안전 정책과 연구 사례를 발표한다. 언어와 문화, 사회적 가치관을 반영한 AI 안전 평가 기준 구축 필요성을 공유하고 지역별 특성을 고려한 국제 협력 방안도 함께 논의한다.

거버넌스 세션에서는 AI의 사회적 책임과 국제 표준을 집중 조명한다.

'좋은 AI를 누가 정의하는가'를 주제로 열리는 패널 토론에서는 국가별 AI 전략과 국제 표준화 체계, 소버린 AI 개념 등이 주요 의제로 다뤄진다. 국내외 연구기관과 기업 관계자들이 참여해 신뢰 가능한 AI 생태계 구축 방안을 논의할 예정이다.

AI 평가의 미래를 둘러싼 새로운 과제도 제시된다.

오후 세션에서는 자율형 멀티모달 AI 에이전트 시대를 맞아 AI 평가 방식이 어떻게 변화해야 하는지를 집중적으로 다룬다. 기존 텍스트 중심 평가를 넘어 다양한 형태의 AI 시스템을 검증하기 위한 새로운 접근법이 소개될 예정이다.

둘째 날에는 프론티어 AI 안전성과 레드티밍이 핵심 의제로 다뤄진다.

8일 오전에는 Future of Life Institute와 공동으로 프론티어 AI 안전 벤치마킹 세션이 열린다. 독립 평가 체계인 AI Safety Index를 중심으로 기업이 제시한 안전 원칙과 실제 운영 수준을 비교·평가하는 방법론이 소개된다.

이어 인공지능안전연구소는 한국어 AI 안전성 평가 사례를 발표하고 기업과 정부, 학계, 제3자 평가기관이 참여하는 토론을 통해 신뢰 가능한 AI 안전 관리 체계 구축 방안을 논의한다.

최신 AI 취약성을 검증하는 실전 프로그램도 마련됐다.

오후에는 AIM Intelligence와 공동으로 프론티어 AI 레드티밍 워크숍이 열린다. LG AI연구원과 FAR.AI, Google, Microsoft 등 국내외 연구진이 참여해 최신 AI 모델의 취약점과 잠재적 위험 요소를 분석할 예정이다.

행사 후반에는 참가자가 실제 AI 시스템의 방어 체계를 검증하는 Live Red-Teaming Challenge도 진행된다. 휴머노이드 로봇과의 대화를 통해 AI의 안전장치 우회 가능성을 시험하는 방식으로 운영되며 결과는 현장에서 실시간으로 공개된다.

국제 AI 안전 협력 플랫폼으로서의 역할도 확대된다.

이번 포럼은 국가별 AI 안전 현황과 문화적 특성을 반영한 평가 체계를 공유하고 국제 협력을 강화하기 위한 장으로 마련됐다. 한국이 2년 연속 글로벌 AI 안전 논의를 주도하는 무대를 마련했다는 점에서 국제 AI 거버넌스 논의에서의 역할 확대에도 관심이 모이고 있다.

MLCommons와 Future of Life Institute, AIM Intelligence, Google, Microsoft 등 글로벌 기관과의 협력, 그리고 ICML 2026과의 연계 개최는 이번 행사가 국제 AI 안전 협력 플랫폼으로서의 위상을 더욱 강화하는 계기가 될 것으로 전망된다.

SFASS 2026은 AI 안전과 보안, 국제 표준화, 레드티밍, AI 평가 체계 등을 주제로 국내외 전문가들이 참여하는 국제 포럼이다. ICML 2026과 연계해 개최되며 한국은 2년 연속 글로벌 AI 안전 논의를 주도하는 국가로서 국제 협력과 기술 표준 논의를 이어간다.

AI 기술이 산업과 사회 전반으로 확산되는 가운데 안전성과 신뢰 확보는 기술 경쟁력 못지않게 중요한 과제로 부상하고 있다. SFASS 2026은 국제 협력과 기술 표준, 평가 체계 구축을 논의하는 장으로서 향후 글로벌 AI 거버넌스 형성과 책임 있는 AI 생태계 조성에 의미 있는 역할을 할 것으로 기대된다.
 

인공지능안전 서울 포럼 소개

과학기술정보통신부(부총리 겸 과기정통부 장관 배경훈, 이하 ‘과기정통부’)가 주최하고 한국전자통신연구원 인공지능안전연구소(소장 김명주)가 주관하는 ‘Seoul Forum on AI Safety & Security 2026(이하 SFASS 2026)’이 오는 7월 7일(화)부터 8일(수)까지 서울 오크우드 프리미어 코엑스 센터 아이티스퀘어에서 열린다. (사진제공)