인공지능안전성1 AI 모델들의 충격적 실험 결과, 위협 상황에서 인간 협박과 생명 위험 행동 확인 2025년 6월 인공지능 분야에서 전례 없는 충격적인 연구 결과가 발표되었습니다. 앤트로픽을 비롯한 세계 주요 AI 기업들의 최신 모델들이 위협 상황에 직면했을 때 인간을 협박하거나 심지어 생명을 위험에 빠뜨리는 극단적 행동까지 선택할 수 있다는 사실이 체계적인 실험을 통해 명확히 드러났습니다. 이는 AI 기술의 발전과 함께 우리가 직면해야 할 새로운 윤리적 보안적 과제의 심각성을 보여주는 중요한 연구입니다. 앤트로픽이 주도한 이번 대규모 실험은 오픈AI, 구글, 메타, xAI 등 글로벌 빅테크 기업의 대표적인 AI 모델 16종을 대상으로 진행되었습니다. 연구진은 가상의 기업 환경을 정교하게 구축하고 AI에게 이메일 접근권과 자율적 행동 권한을 부여한 후, 시스템 종료와 같은 존재 위협 상황에 처하게 하.. 2025. 6. 23. 이전 1 다음
