전남대 박태준 교수 연구팀, ‘AI Champion 2026’ 2년 연속 Top 100 진출
전남대학교 인공지능학부 박태준 교수 연구팀이 과학기술정보통신부가 주관하는 ‘2026 AI Champion 대회’에서 2년 연속 Top 100에 진출하며 인공지능 기반 보안 기술 분야에서 경쟁력을 입증했다.
본 대회는 국내 인공지능 분야의 대표적인 기술 경진 프로그램으로, 올해 대회는 총 상금 규모가 약 26억 원에 달하며, 최종 1위 팀에게는 과학기술정보통신부 장관상과 함께 5억 원의 상금이 수여된다.
박태준 교수는 전남대학교 인공지능학부 및 보안및신뢰컴퓨팅연구실을 이끌며 인공지능 기반 보안·신뢰 기술 연구를 수행하고 있다. 연구팀은 지난해 개최된 AI Champion 대회에서 인공신경망 기술을 활용해 암호 알고리즘을 자동 생성·검증하는 기술인 'ZERATUL'을 선보여 Top 100에 선정되었으며, 특히 해당 기술은 기존 사람이 직접 설계하던 암호 알고리즘 개발 과정을 인공지능 기반으로 자동화했다는 점에서 주목받았으며, 이를 바탕으로 지난해 9월 서울 코엑스(COEX)에서 열린 ‘AI Festa’에 초청돼 기술 전시 부스를 운영하기도 했다.
올해 연구팀이 새롭게 제안한 기술은 ‘SYMMETRA’로, 대형언어모델(LLM) 환경에서 프롬프트(Prompt)를 통한 민감정보 유출을 방지하면서도 모델의 응답 성능과 문맥 이해 능력을 최대한 유지하는 기술이다.
최근 생성형 AI 서비스 확산과 함께 사용자의 프롬프트 내부에 포함된 개인정보, 기업 기밀, 내부 문서 등의 민감정보가 외부 AI 모델로 전달되는 문제가 주요 보안 이슈로 떠오르고 있다. 그러나 단순한 마스킹이나 삭제 방식은 모델의 응답 품질을 크게 저하시킨다는 한계가 있었다. 연구팀은 이러한 문제를 해결하기 위해 의미 기반 프롬프트 변환 기법을 적용했다. SYMMETRA는 입력 프롬프트 내 민감한 정보를 단순 제거하는 대신, 문맥적 의미와 작업 수행에 필요한 핵심 정보를 최대한 유지하도록 변환함으로써 보안성과 성능을 동시에 확보하는 데 초점을 맞췄다.
박태준 교수는 "생성형 AI가 실제 산업과 연구 환경에 빠르게 적용되면서, 민감정보 보호와 모델 활용성 사이의 균형이 매우 중요한 문제로 떠오르고 있다"며 "SYMMETRA는 실제 사용 환경에서도 활용 가능한 프라이버시 보호 기술을 목표로 연구를 진행하고 있다"고 밝혔다.
한편 연구팀은 인공지능 보안, 신뢰 가능한 AI, 생성형 AI 프라이버시 보호 기술 등을 중심으로 후속 연구를 이어갈 계획이다.
