과학기술정보통신부(장관 배경훈)가 주최하고 한국전자통신연구원 인공지능안전연구소(소장 김명주)가 주관하는 ‘인공지능 안전·보안 서울 포럼 2026’이 오는 7월 7일(화)부터 8일(수)까지 서울 코엑스 오크우드 프리미어 아이티스퀘어에서 열린다.

이번 포럼의 주제는 “AI 안전과 보안, 그리고 국제 협력”으로, 국내외 정부·대학·기업 전문가들이 모여 인공지능이 안전하게 활용될 수 있는 기술과 기준, 협력 방안을 논의한다. 행사장은 120명 규모지만 신청자가 몰려 온라인 생중계도 함께 진행된다.

작년 첫 포럼에서는 AI 안전의 기본 의제를 다뤘다면, 올해는 한 단계 더 나아가 문화·지역별 AI 평가, 자율 에이전트 시대의 사이버 위협 대응, 국제 표준화 논의 등 실제 현장에서 필요한 주제를 다룬다.

특히 이번 행사는 세계적인 머신러닝 학술대회인 국제 머신러닝 학회(ICML 2026)와 연계해 열려, 전 세계 AI 연구자들과 교류할 수 있는 기회가 확대될 것으로 기대된다.

첫날인 7일에는 엠엘커먼스(MLCommons), 구글, 마이크로소프트와 함께 AI 안전·보안 표준 마련을 위한 세션이 진행된다. 여기서는 한국·인도·싱가포르 등 아시아 여러 나라가 공동 개발 중인 ‘AI루미네이트(다문화 AI 안전 평가 기준)’의 중간 성과가 발표된다. 이는 기존 서구 중심의 안전 기준을 보완해 다양한 문화와 언어를 반영하는 새로운 평가 기준이다.

이어 각국 연구자들이 짧은 발표(Lightning Talk)를 통해 자국의 AI 안전 현황을 공유하고, ‘좋은 AI를 누가 정의하는가’라는 주제로 패널 토론도 열린다. 연세대, KAIST, KIST, LG AI 연구원, 생명미래연구소(Future of Life Institute) 등 국내외 주요 기관이 참여한다.

둘째 날인 8일에는 생명미래연구소가 개발한 ‘AI 안전 지수(AI Safety Index)’가 소개된다. 이는 기업들이 내세운 안전 원칙이 실제 제품과 운영에서 얼마나 지켜지고 있는지를 객관적으로 평가하는 지표다. 이어 한국어 AI 안전 평가 사례 발표와 ‘신뢰할 수 있는 AI 안전 전략’에 대한 패널 토론이 이어진다.

오후에는 국내외 전문가들이 참여하는 AI 레드팀 워크숍이 열린다. 최신 AI 모델의 취약점을 집중적으로 점검하고, 실제 무대에서는 휴머노이드 로봇을 대상으로 참가자들이 대화만으로 금지된 행동을 유도하는 ‘라이브 레드팀 챌린지’도 진행된다.

이번 포럼은 한국이 2년 연속으로 국제 AI 안전 논의를 주도하는 자리로, 글로벌 AI 안전 거버넌스에서 한국의 위상을 확인하는 계기가 될 전망이다.

행사 관련 자세한 내용과 온라인 생중계 신청은 공식 웹사이트(aisafety.ai.kr)에서 확인할 수 있다.