고려대 정보보호대학원 제2회 국제학술대회(KU-ICCSP 2026) 첫날, 

인공지능 안전과 보안에 관한 전략적-실천적 방안 논의

□ 고려대학교 정보보호대학원은 2026년 6월 25일(목)부터 26일(금)까지 양일간 제주 해비치 호텔 앤 리조트 크리스탈홀A에서 「KU International Conference on Cybersecurity and Privacy 2026(KU-ICCSP 2026)」을 개최하였다.

□ 지난해에 이어 두 번째로 열리는 이번 학술대회는 인공지능과 사이버안보가 전 지구적 핵심 현안으로 부상한 가운데 각국의 정책 정렬과 사이버안보 협력, 민주적 가치와 인권 보호에 기반한 협력적 글로벌 거버넌스의 가능성을 모색하기 위해 마련됐다.

□ 첫째 날인 25일에는 ▲인공지능-사이버 넥서스 시대의 공동 과제와 대응 전략을 주제로 주요국 대사들이 참여한 세션과 ▲인공지능 안전성·회복력의 이론적·실천적 과제를 다루는 세션이 진행됐다.

□ 개회식에서 고려대 정보보호대학원 정익래 원장은 인공지능 기술의 급속한 발전이 새로운 혁신의 기회를 제공하는 동시에 보안 위협의 고도화, 개인정보 침해, 디지털 신뢰 약화와 같은 인류 공동의 도전 과제를 제기하고 있다고 진단하였다. 이어 기술 패권 경쟁과 국제사회의 분열이 심화되는 상황에서 신뢰에 기반한 연대와 협력의 중요성이 그 어느 때보다 커지고 있다며, 평화의 섬 제주에서 각국의 외교와 정치, 법과 윤리, 기술을 아우르는 논의를 통해 더 나은 미래를 위한 방향을 함께 모색하기를 기대한다고 밝혔다.

□ 첫 번째 세션 '인공지능-사이버 넥서스: 공동 과제와 대응 전략(The AI-Cyber Nexus: Shared Challenges and Collective Responses)'은 최성주 전 외교부 국제안보대사(고려대 정보보호대학원 특임교수)의 사회로 진행됐다. 패널로는 Nkubito Manzi Bakuramutsa 주한 르완다 대사, Georg Schmidt 주한 독일 대사, Wong Kai Jiun 주한 싱가포르 대사, Ugo Astuto 주한 EU 대사, Tanel Sepp 주한 에스토니아 대사, 그리고 윤종권 외교부 국제사이버협력대사가 참여하였다.

□ 패널들은 인공지능과 사이버안보가 더 이상 기술적 과제에 머물지 않고 국가 주권과 안보, 국제 질서의 문제로 확장되고 있다는 데 인식을 같이하였다. 특히 인공지능이 생성형 피싱·딥페이크 등 사이버범죄에 악용되고 자율무기체계 등 군사 영역으로 확산되는 상황에서 인간의 통제(Human-in-the-Loop) 원칙과 국제규범 정립의 시급성이 강조됐다. 아울러 「말라보 협약」, 「탈린 매뉴얼」, REAIM 등 지역·국제 차원의 거버넌스 사례가 공유됐다.

□ 특히 패널들은 인공지능 위협이 국경을 넘어서는 만큼 어느 한 국가의 노력만으로는 대응할 수 없으며, 신뢰에 기반한 국제 협력과 다자 협력이 필수적이라는 데 뜻을 모았다. 또한 안전과 혁신을 함께 요구하면서 한국이 사이버안보·인공지능 거버넌스 분야에서 주요국과의 협력을 주도해 나갈 수 있다는 기대를 제시했다.

□ 좌장을 맡은 최성주 전 대사는 인공지능과 사이버 위협에는 즉각적인 대응이 필요하고 기다림은 사치라고 강조하면서, 처음부터 법적 구속력을 갖춘 합의를 이루기보다 시의적절한 규범 설정이 더 중요하다고 정리하였다. 아울러 자발적 행동 규범과 같은 연성규범이 글로벌 인공지능 거버넌스를 향한 실질적 첫걸음이 될 수 있다고 덧붙였다.

□ 두 번째 세션 'AI 안전과 회복력: 기반, 위험, 그리고 책임(AI Safety and Resilience: Foundations, Risks, and Responsibilities)'은 Lyse Langlois 라발대학교 교수(OBVIA 디렉터)의 사회로 진행됐다. 패널로는 Université de Montréal의 Tania Saba 교수, Z-Inspection의 Roberto Zicari 부의장, 싱가포르 정보통신미디어개발청(IMDA)의 Jeffrey Lim 매니저, 그리고 이진수 과학기술정보통신부 국장이 참여하였다.

□ 발표자들은 인공지능의 위험이 기술 자체보다 거버넌스·조직·인적 요인에서 비롯되는 경우가 많다는 점에 주목하였다. 신뢰할 수 있는 AI를 위해서는 기술적 견고성과 함께 공정성·책임성·투명성·포용성과 같은 거버넌스 가치가 뒷받침되어야 하며, 높은 수준의 원칙을 측정 가능하고 실행 가능한 이행으로 전환하는 것이 핵심 과제로 제시됐다. 특히 인공지능 도입이 개별 직무를 넘어 조직 구조와 의사결정 체계를 재편하는 만큼, 다학제적·범분야적 접근과 역량 개발을 위한 평생학습 체계의 중요성이 강조됐다.

□ 자율적으로 행동하는 에이전트 AI의 부상에 따른 새로운 거버넌스 과제도 비중 있게 다뤄졌다. 에이전트는 단순히 결과물을 생성하는 데 그치지 않고 실제 세계에서 행동을 수행하기 때문에 위험의 사전 평가와 한계 설정, 실질적인 인간의 책임과 감독, 기술적 통제, 이용자 책임 강화 등 실효성 있는 거버넌스 장치가 필요하다는 점이 논의됐다.

□ 이진수 과학기술정보통신부 국장은 인공지능이 핵·반도체 수출통제에 맞먹는 국가 전략 자산으로 부상했다고 진단하며 미·중 패권 경쟁 속에서 한국이 에너지부터 반도체·인프라·모델·서비스에 이르는 'AI 풀스택 생태계'를 갖춘 국가임을 강조하였다.

□ 좌장을 맡은 Langlois 교수는 신뢰할 수 있는 인공지능을 실현하기 위해서는 각국의 거버넌스가 경쟁하기보다 상호 보완적으로 작동해야 한다며, 이번 세션의 논의가 원칙을 실질적 이행으로 옮기는 국제 협력의 토대가 되기를 기대한다고 밝혔다.

□ 끝