빅테크 상용 LLM의 추론과정 유출 파장, XTC Korea 우승 기업은 '오믈렛' 2026. 8. 14. | Vol. 26-32 | 📬구독하기 |
|
|
'XTC Korea 2026' 온라인 피칭대회 성료... 최종 우승에 '오믈렛'
- 8개 혁신 기업 참여, 우승기업은 11월 'XTC AI:360 Summit' 참가 자격 얻어
|
|
|
GDIN이 XTC Korea, 정보통신산업진흥원(NIPA)과 공동으로 국내 유망 AI 혁신기업의 북미 시장 진출 및 미국 투자 유치를 지원하는 'XTC Korea 2026' 온라인 피칭대회를 8월 12일 성공적으로 개최했습니다.
세계 최대 규모의 비영리 기술혁신 플랫폼인 Extreme Tech Challenge(XTC)의 글로벌 수요에 부합하는 우수 기술기업을 발굴하고자 마련된 이번 대회에는, AI 기술을 통해 실질적인 산업 가치와 지속가능발전목표(SDGs)를 창출하는 국내 혁신기업 8개사(코드프레소, 이큐브랩, 제제듀, 스페이스맵, 릴리커버, 오믈렛, 크로스허브, 스튜디오랩)가 참여해 치열한 경합을 벌였습니다.
XTC 관계자 및 해외 시장 전문가 심사위원단의 엄격한 평가를 거쳐 최종 우승 '오믈렛'에 돌아갔습니다.
우승기업으로 선정된 오믈렛은 오는 11월 미국 샌프란시스코에서 열리는 글로벌 대표 AI 행사 'XTC AI:360 Summit'의 스타트업 쇼케이스 참가 자격과 현지 출장 비용을 지원받게 됩니다. 이를 통해 북미 현지 주요 VC 투자자 및 글로벌 기업들과 직접 소통하며 글로벌 사업화 및 투자 유치 기회를 본격적으로 모색할 예정입니다.
|
|
|
"ESG 준수 대비, 선택 아닌 필수"....GDIN, 글로벌 ESG 세미나 열어
- K-글로벌 수출 리더기업 육성사업 참여 기업 대상, ESG 대응전략 공유
|
|
|
GDIN은 8월 13일, '2026 K-글로벌 수출 리더기업 육성사업'에 참여하는 경북 우수 제조기업 8개사를 대상으로 온라인 ESG 세미나를 개최했습니다.
이날 세미나에 강연자로 나선 i-ESG 이훈 이사는 글로벌 진출 시 기존의 기술·시장·가격 경쟁력을 넘어 'ESG 준비도' 점검이 필수적으로 요구되고 있다고 강조했습니다.
특히 글로벌 고객사가 실제 요구하는 핵심 영역인 ▲탄소 및 에너지 ▲환경 ▲인권·안전 ▲공급망 ▲제품 ESG(Product ESG) 관리 방안을 짚어보고, EU·미국·중동·일본·아세안 등 5대 글로벌 지역별 맞춤형 ESG 대응 전략을 실무 관점에서 공유했습니다.
🌍 'K-글로벌 수출 리더기업 육성사업'이란?
GDIN과 경상북도경제진흥원이 도내 유망 제조기업의 성공적인 세계 무대 안착을 돕는 밀착 엑셀러레이팅 프로그램입니다.
경북도에 본사와 주요 사업장을 두고 있는 핵심 제조 기업 8개사(재영, 튤립인터내셔널, 에이스나노켐, 윈텍스, 케이피씨엠, 삼성금속, 경림테크, 뉴프라임)를 대상으로 ▲글로벌 진출 역량 진단 ▲현지화 맞춤 세일즈 전략 수립 ▲전문 비즈니스 컨설팅(법률·조세·특허) ▲현지 합작법인 설립까지 글로벌 진출의 모든 과정을 '원스톱 솔루션'으로 지원하고 있습니다.
|
|
|
🚀 디토닉: AI 플랫폼 전문기업 디토닉이 CJ올리브영 미국 캘리포니아 매장의 디지털 환경 구축과 전자가격표시기(ESL) 적용을 지원하며 북미 스마트 리테일 시장 공략에 나섰습니다. 2023년부터 국내 1,200여 개 직영점의 DX를 이끈 노하우를 바탕으로, 자사의 풀스택 AI 데이터 플랫폼 'D.Hub'를 통해 현장 데이터를 통합 처리하고 즉각적인 의사결정을 지원하는 고도화된 매장 운영 환경을 구현합니다.
|
|
|
🚀 에이아이웍스: AI 데이터 및 솔루션 전문기업 에이아이웍스가 캄보디아 크메르어 기반의 공공 민원 AI 챗봇 구축 실증을 성공적으로 마쳤습니다. 저자원 언어(LRL) 국가의 국민들이 자국어로 쉽게 민원 절차를 확인할 수 있도록 한 이번 성과는 공공서비스 소외 과제를 기술로 풀어낸 '책임 있는 AI'의 대표적 실증 모델로 인정받아, 유엔대학교(UNU) 주관 국제학술대회 'ICEGOV 2026'에서도 주요 사례로 발표될 예정입니다.
|
|
|
🚀 크레스콤: 근골격 특화 의료 AI 기업 크레스콤이 말레이시아 국립대(UKM) 의과대학과 소아 골연령 분석 AI 솔루션 'MediAI-BA'의 성능 검증을 위한 공동연구 업무협약(MOU)을 체결했습니다. 소아청소년의 수골 방사선 영상을 자동 분석해 골연령을 산출하는 핵심 기술로, 이번 UKM 부속병원 전문의와의 임상 검증을 통해 동남아시아 인구에 대한 객관적 근거를 확보하며 글로벌 진출에 속도를 냅니다.
|
|
|
🚀 한국딥러닝: 비정형 문서 데이터화 전문기업 한국딥러닝이 국내 대형 보험사에 AI 문서 자동화 솔루션 '딥에이전트(DEEP Agent)'를 공급합니다. 보험금 청구 서류의 인식부터 정보 추출, 구조화, 결과 검증까지 전 과정을 일괄 처리함으로써, 사람의 개입이 없는 완전자동처리율을 기존 28%에서 91%로 대폭 끌어올렸으며 이를 통해 연간 약 38억 원의 운영비 절감 효과를 낼 것으로 기대됩니다. |
|
|
"망분리 한계 넘고 AI 도입 가속화"... 데이터 노출 없이 연산하는 '디사일로'
- 완전동형암호 기술(FHE)로 민감 정보를 보호하는 프라이빗 AI의 글로벌 표준 제시 |
|
|
디사일로(DESILO)는 부서나 기업 간에 데이터가 공유되지 못하고 고립되는 이른바 '데이터 사일로(Data Silo)' 현상을 해결하고, 기업이 고품질 데이터를 바탕으로 혁신할 수 있도록 지원하는 프라이버시 강화 기술(PET) 전문 기업입니다.
AI 시대에 기업 경쟁력 확보를 위해 데이터 활용은 필수적이지만, 개인정보 유출 위험과 기업 영업비밀 노출 우려, 그리고 망분리 등 강력한 규제로 인해 실무에서 민감 데이터를 외부 AI 모델에 바로 적용하기는 어려웠습니다. 디사일로는 암호를 해제하는 과정 없이 암호화된 상태 그대로 연산과 분석이 가능한 차세대 보안 기술인 '완전동형암호(FHE)'를 통해, 기업 기밀과 민감 정보의 노출 위험 없이 안전하게 AI를 도입할 수 있는 근본적 해결책을 제시합니다.
💡 기업 데이터 기밀성과 실무 사용성을 동시에 충족하는 솔루션
-
Liberate.FHE & PPML: 세계 최초 다중 GPU 기반 완전동형암호 라이브러리 'Liberate.FHE'를 자체 개발하여 CPU 대비 최대 200배의 성능 향상과 압도적인 정확도를 확보했습니다. 이를 기반으로 원본 데이터와 알고리즘을 전혀 노출하지 않고 인공지능을 학습시키고 추론에 활용하는 '프라이버시 보존 머신러닝(PPML)' 기술을 선도하고 있습니다.
-
보안 협업 인프라 'DCR': 원본 데이터를 주고받지 않고도 다른 주체의 데이터에 접근해 암호화된 상태로 결합 및 분석할 수 있는 안전한 가상 공간인 '디사일로 데이터 클린룸(DCR)'을 제공하여 핵심 자산 유출 위험을 원천 차단합니다.
-
비즈니스 인사이트 자동화 'DMI': 복잡한 데이터 추출 명령어(SQL)나 코딩 없이 일상적인 언어(자연어)로 챗봇에 질문하면, AI가 데이터 기반 실행 전략과 시각화된 대시보드를 수 초 내에 도출해 주는 '디사일로 마켓 인텔리전스(DMI)'로 실무자의 편의성을 극대화했습니다.
🤖 글로벌 프라이빗 AI 생태계의 새로운 기준점
디사일로는 동형암호 솔루션 상용화에 성공하며 금융·의료 등 초민감 데이터 시장에서 굳건한 레퍼런스를 구축해 왔습니다. 최근에는 디사일로의 완전동형암호 기반 거대언어모델(LLM) 추론 프레임워크인 'THOR(토르)'가 글로벌 빅테크들이 주도하는 완전동형암호 국제 표준화 단체(HomomorphicEncryption.org)의 'FHE 벤치마킹 스위트'에 언어모델 암호화 추론 부문 최초의 공식 레퍼런스로 등재되는 쾌거를 거두었습니다. 기존에 수 시간이 걸리던 암호문 기반 추론을 단일 GPU에서 2분 만에 수행하는 압도적 효율성을 전 세계적으로 입증한 것입니다.
데이터 주권 확보와 기업 데이터 기밀성(Confidentiality) 유지라는 시대적 요구를 충족하며 글로벌 프라이빗 AI 생태계의 표준을 만들어갈 디사일로의 도약을 응원합니다.
|
|
|
"암호화된 AI의 속마음도 해독 가능"... 상용 LLM '추론 트레이스' 유출
- 독일 연구진 최신 논문 통해 주요 프론티어 AI 모델의 취약점 지적 |
|
|
OpenAI, Anthropic, Google 등 글로벌 AI 기업들이 AI의 내적 사고 과정인 '추론 트레이스(Chain-of-Thought)' 유출을 방지하고 경쟁사의 기술 도용을 막기 위해 도입한 암호화 메커니즘에서 심각한 구조적 결함이 밝혀졌습니다. 독일 ELLIS 연구소와 막스플랑크 연구소 연구진이 최근 발표한 Stealing Reasoning Traces from Proprietary LLM APIs 는 암호 자체를 깨트리는 것이 아니라, 기업들이 시스템 운영 편의를 위해 만든 구조적 허점을 이용해 감춰진 사고 과정을 그대로 복원하는 것이 가능하다는 점을 밝혔습니다.
🔐자물쇠는 멀쩡하지만 열쇠를 공유해 생긴 허점
AI 기업들은 서버 운영 비용을 줄이고자 암호화된 추론 블록을 클라이언트(사용자)에게 전달한 뒤 다음 대화 때 다시 제출받는 방식을 사용해 왔습니다.
문제는 서버가 이 블록의 출처(어느 대화, 어느 사용자, 어느 모델인지)를 검증하지 않고 회사 전체가 동일한 암호화 구조를 공유했다는 점입니다. 공격자는 상위 모델(예: Claude Opus)의 암호화 블록을 가져와 보안이 허술하고 저렴한 하위 모델(예: Claude Haiku)에 주입하는 것만으로, 하위 모델이 상위 모델의 사고 과정을 일반 텍스트로 풀어내게 만드는 '우회 해독'에 성공했습니다.
✳️ 연구에서 드러난 보안 위협들
- 증류 방지(Anti-Distillation) 우회: 상위 모델의 높은 방어 장벽을 직접 뚫지 않고도 고가치 추론 로직을 저비용으로 추출할 수 있어, 경쟁사의 모델 무단 복제 및 기술 유출 위험이 노출되었습니다.
- 세션 로그를 통한 자격 증명·개인정보 유출: 개발자들이 공용 저장소(GitHub 등)에 무심코 올린 세션 로그 속 암호화 블록 31만 5,000여 개를 해독한 결과, 의미없는 문자열로 보여 검토과정을 벗어났던 실제 API 키(62개), 비밀번호(33개), 개인식별정보(367건)가 대거 복구되었습니다.
- 위험 정보 노출: AI가 최종 출력에서는 유해 질문을 거절하더라도, 거절에 이르기까지의 내부 암호화 단계에 남아있던 위험 정보가 해독 과정을 통해 그대로 드러났습니다.
- 은밀한 프롬프트 주입 (Invisible Prompt Injection): 사람이 읽을 수 없는 암호화 블록 내에 악성 지시문을 은밀히 심어두면, 해당 로그를 재사용하는 다른 AI 에이전트가 이를 그대로 실행하여 전체 에이전트 생태계가 오염될 수 있습니다.
다행히도 연구진이 논문 공개 전에 이 사실들을 알려 주요 AI 기업들이 긴급 패치를 적용했다고 알려졌습니다. 하지만 이번 연구는 AI 거버넌스와 보안 체계에 근본적인 질문을 던집니다. 현행 모델에서는 추론하는 과정을 요약하여 보여주면서 실제 추론과정의 중요 맥락들을 드러내지 않는다는 점과, 모델의 사고 과정이 점차 사람이 해독하기 어려운 외계어(Alien Reasoning) 형태를 띨 수 있다는 점도 함께 관찰되었기 때문입니다.
이번 논문에 관심있는 분들은 아래 버튼을 눌러 원문을 확인하시기 바랍니다.
|
|
|
4F, Startup Campus Building #3, 20, Pangyo-ro 289Beon-gil, Bundang-gu, Seongnam-si, Gyeonggi-do Korea 13488
You are receiving this email because you have visited our site or asked us about regular newsletter.
|
|
|
|
|
