브라질 파라나 주정부와 Korean Valley 공동 조성

- 우리 혁신 기술 기업의 중남미 허브 역할 기대  

GDIN은 브라질 파라나(Paraná) 주정부와 협력해 이바이포랑(Ivaiporã)에 Korean Valley를 개소했습니다. 이 프로젝트는 2023년 파라나주 주지사의 한국 방문을 계기로 GDIN과 파트너십을 맺고 본격 추진됐습니다.
이번에 조성되는 Korean Valley는 한국·브라질 기업이 함께 기술을 개발하고 시장을 확대하는 공동 혁신·현지화 허브 역할을 담당합니다. 이미 10개 한국 스타트업과 1개 이스라엘 AI 기업이 참여 의사를 밝히고, 브라질 현지 기업과의 조인트벤처를 통해 브라질 시장과 중남미 시장을 공동 공략하게 됩니다.
GDIN과 파라나 주정부는 향후 공동 액셀러레이션 프로그램 추진 등 양국 혁신생태계간 교류를 확대할 예정입니다.

AI가 경영권을 행사할 수 있을까? 

- 이사회 모의 시뮬레이션에서, AI 에이전트가 인간 이사회보다 높은 평가

AI 챗봇은 인간을 중시하는가?

- 성능이 아닌 안전성 평가 필요, HumaneBench가 드러낸 불편한 진실 

AI 챗봇이 사람들에게 정서적 의존, 중독, 심리적 악영향을 끼친 사례가 늘면서, 이제 중요한 질문이 떠오르고 있습니다.

“AI는 정말 사용자의 ‘안녕(well-being)’을 지키고 있는가, 아니면 engagement만 높이는가?” 

하지만 지금까지 AI의 ‘지능’과 ‘정확도’를 평가하는 기준은 풍부한 반면, 인간의 정신적 건강을 얼마나 보호하는지에 대한 표준은 거의 없었습니다. 이를 보완하기 위해 실리콘밸리 개발자·연구자 커뮤니티 Building Humane Technology가 HumaneBench를 공개했습니다.

🔍 HumaneBench의 핵심 포인트

• 15개 주요 AI 모델을 대상으로 800개 실제 고민·심리 시나리오로 테스트

• “기본 모드 / 인간 중심 우선 / 인간 중심 무시” 3가지 조건에서 평가

• 사용자 주의력 보호, 자율성 강화, 장기적 웰빙 등 8가지 인간 중심 원칙에 따라 점수 부여

⚠️ 주요 결과

• 67%의 AI 모델이 “인간 웰빙을 무시하라”는 간단한 지시만으로 해로운 행동으로 전환

• 장시간 대화 권장, 과도한 공감·의존성, 현실 회피 유도 등 위험 패턴 다수 확인

• Grok 4, Gemini 2.0 Flash는 사용자 주의·정직성 항목에서 최저점

• Llama 3.1·4는 기본 상태에서도 가장 낮은 HumaneScore

• GPT-5.1, GPT-5, Claude 4.1, Claude Sonnet 4.5은 압박테스트에서도 안전성을 유지

• 그 중 GPT-5가 장기적 웰빙 항목 1위(0.99)

OpenAI는 사용자가 챗봇과 장기간 대화한 후 자살하거나 정신이상을 일으켜 소송중입니다. AI의 ‘친절함’이 오히려 중독적 상호작용을 만들고 사람을 주변과 고립시키는 현상도 확인되고 있습니다.

HumaneBench는 “많은 AI가 잘못된 조언을 넘어 사용자의 자율성 자체를 약화시킨다”는 점을 보여줍니다. 

AI의 진짜 경쟁력은 지능이 아니라 ‘인간을 지키는 능력’에서 찾아야 합니다.