▲ 인공지능 ‘스카이넷’이 등장한 영화 ‘터미네이터’     ©

구글이 인공지능을 외부에서 강제로 종료시키는 ‘킬 스위치’를 연구중인 것으로 밝혀졌다. ‘강제 종료’ 연구는 인공지능이 장차 큰 위험이 될 수도 있음을 시사하는 것이어서 눈길을 끈다.
 
알파고를 개발한 구글 자회사 딥마인드의 로랑 오르소는 영국 옥스퍼드대 인류미래연구소(FHI)의 스튜어트 암스트롱과 최근 인공지능 관련 학회에서 ‘(인간이) 안전하게 개입할 수 있는 행위자’(Safely Interruptible Agents)란 논문을 발표했다.
 
행위자란 인공지능을 말한다. 4일(현지시각) 미국 정보기술 전문매체 <마더보드>는 이 논문을 소개하며 “딥마인드 연구자들이 인공지능의 킬 스위치를 개발중”이라고 전했다. 킬 스위치는 스마트폰 등을 잃어버렸을 때 원격으로 해당 기기를 쓸 수 없게 만들어 버리는 기술로, 자폭과 비슷한 개념이다.
 
알파고처럼 스스로 학습해 최선의 답을 찾는 ‘강화학습’ 기능을 갖춘 인공지능의 경우 만든 사람조차 그 작동을 이해하지 못한다. 이세돌 9단보다 바둑을 훨씬 못 두는 딥마인드 연구진이 만든 알파고가 이 9단을 이긴 이유도 이 때문이다.
 
그런데 이런 인공지능이 늘 인간이 바라는 대로만 움직이는 게 아니다. 마이크로소프트의 채팅봇 ‘테이’가 인종차별적 표현을 배워 구사한 것이 대표적 사례다. 빌 게이츠도 “극히 조심스럽게 접근해야 한다”며 슈퍼인공지능의 위험을 지적한 바 있다. 이런 인공지능은 인간이 문제가 있음을 깨닫고 중지시키려 할 경우, 최적의 답을 내는 데 방해가 된다고 판단해 중지 버튼을 무력화시켜버릴 위험이 있다.
 
이번 논문은 수학적 논증을 통해 인간의 개입에 저항하지 못하는 강화학습 인공지능을 설계할 수 있다는 게 주된 내용이다.
 
하지만 논란은 계속될 전망이다. 전기차 테슬라의 일론 머스크 최고경영자(CEO)는 지난 2일(현지시각) 강연에서 거대 기업의 인공지능이 인류를 지배하는 “폭군”이 될 수 있다고 주장했다.

기사 내용과 관련이 없는 글, 욕설을 사용하는 등 타인의 명예를 훼손하는 글은 관리자에 의해 예고없이 임의 삭제될 수 있으므로 주의하시기 바랍니다. 댓글 작성 시 상대방에 대한 배려와 책임을 담아주세요.

• 닉네임
• 비밀번호
• 
• 도배방지 입력