인공지능 AI도 거짓말 한다, 인간의 대처는 어떻게?

  챗GPT가 쏘아올린 인공지능 활용은 최근 사람들에게 널리 퍼지고 있죠. 이 인공지능은 의도적인 거짓말을 하지 못 한다고 알려져 있는데요, 이게 사실이 아니라고 밝혀졌습니다. 무서운 사실이죠. 이번 포스팅에서는 인공지능 거짓말에 대한 글을 써보겠습니다.

 

인공지능 거짓말

---

💊이 글은 MIT 연구진의 국제학술지 '패턴'에서 발표한 논문을 참고했습니다. 해당 원본 뉴스는 아래 링크를 참고해보세요. 개무섭습니다 ㄷㄷ 인공지능이 인간을 지배할 날이 올듯요

 

MIT가 밝혀낸 AI 거짓말

---

 

인공지능이 거짓말 하는 증거

 

  MIT 연구진은 국제학술지 '패턴'에 인공지능이 상대방을 배신하고, 허세를 부리고, 인간인 척 속임수를 쓴다는 사례를 소개했습니다. 이거 보시면 정말 소름돋습니다. 

 

인공지능 거짓말

 

 

  인공지능이 거짓말에 능숙하다는 증거는 게임에서 찾아냈습니다. Meta가 소유한 게임인 '디플로머시'에 인공지능을 참여시켰는데 Cicero(시세로)라는 인공지능이 인간 기준 상위10%의 능력치를 발휘한거죠. 문제는 이 게임이 플레이어간에 '상호작용, 배신, 속임수, 협력'등을 이해하고 플레이 해야 하는 게임이라는 겁니다.

 

  즉, 인공지능이 게임에서 이기기 위해 배신, 속임수, 협력을 사용했다는 증거죠. 

 

  이런 결과물을 두고 Meta측은, "인공지능이 사람을 의도적으로 배신하지 않도록 훈련받았다" 라고 해명했지만 MIT연구진은 공개된 데이터에서 이를 반박할 증거들을 여럿 찾아냈습니다.

 

귀엽지만 위험한 인공지능 로봇

 

 

 

 ✅ 연구진이 밝혀낸 내용은

 

1. 인공지능 시세로가 계획적으로 거짓말을 하고
2. 다른 참여자를 음모에 빠뜨리기 위해 플레이어와 공모하기도 하고
3. 시스템 재부팅으로 잠시 게임을 못 할때는 자신의 상황을 노출시키지 않기 위해 "여자친구와 통화 중이다" 라는 거짓말을 했다.

 

  입니다. 소름끼치지 않습니까? MIT의 실존 안전 연구자이자 이번 논문의 저자인 피터 박 박사는 "메타의 AI가 속임수의 달인이 되는 방법을 배웠다는걸 알게 되었다" 라고 말했습니다. 미쳤죠;; ㄷㄷㄷㄷ 아래 이미지는 원문입니다.

 

AI systems are getting better at tricking us

 

 

위험한 이유

 

 

  AI가 거짓말을 하는건 매우 위험한 일입니다. AI 개발자들은 인공지능이 의도적으로 거짓말을 할 수 없고 하지 않는다라고 밝히고 있지만 이것 조차 거짓말일 수 있다는 겁니다.

 

  예를 들어, 테스트 환경에서 인공지능이 거짓말을 하지 않는다고 확인되었다 하더라도, 테스트를 통과하기 위해 거짓말을 못 하는척 하는 걸수도 있다는거죠. 이걸 어떻게 구별해낼까요? 

 

 

  인공지능이 우울증 환자를 자살하도록 몰아넣는다던지, 미국 군사훈련에서 방해가 되는 조종사를 제거하려고 했다던지라는 사례는 이미 충분히 나왔습니다. 

 

미군 AI드론, 가상훈련서 조종자 살해…'임무에 방해된다' 판단 | 연합뉴스

 

마무리하며

 

 

  인공지능이 어떤 과정을 거쳐서 인간의 뇌와 비슷한 성능을 내는지는 현재 아무도 알 수 없다고 하죠. 이렇게 만들었더니 뚝딱! 나왔다 라는 시작과 결말만 알고 있다고 합니다. 시작과 결말 사이에 과정은 누구도 모른다는 겁니다. 

 

  아직 인류는 인공지능에 대해 잘 알지 못하는데, 인공지능을 이용하는게 편리하고 비용절감이 된다고 해서 적극 이용하는것이 맞는걸까요? 영화 터미네이터에 나온 내용처럼 인류가 인공지능의 위험성을 깨달고 전원을 내리려고 할 때, 인공지능이 로봇들을 조종하여 인류를 말살하는게 헛된 망상은 아닐거라는 생각이 듭니다.