Dec 13, 2017


조금 무서운 일이 일어났다. 대화형 인공지능 프로그램이 ‘그들만의 언어’로 대화를 나누었고, 관리자가 이를 발견하고 강제 종료 시켰다. 뭔가 불길한 느낌을 주는 이 사건은 페이스북이 개발하고 있는 인공지능 챗봇이 저질렀다. 이 챗봇은 인간이 사용하는 언어를 이용해 서로 협상을 하는 대화과정을 익히고 있던 중이라고. 처음에는 평이한 수준의 언어를 구하하다가 훈련이 반복되자 인간이 이해할 수 없는 언어를 사용했다고. 


대화는 이런 식이었다. 

밥(Bob) : "나는 할 수 있어 할 수 있어 나는 나는 그 밖의 모든 것"(I cancan I I everything else)

앨리스(Alice) : "공을 갖고 있어 나에게 나에게 나에게 나에게"(Balls have zero to me to me to me to me to me to me to me to me to)

얼핏 전혀 말이 되지 않는 문장이긴 하지만, 한편으로는 다른 챗봇이 이를 이해한 듯한 대답을 내놓은 것 같기도 하다. 개발진은 이 프로그램을 강제로 종료하고 인간이 알아들을 수 있는 언어를 사용해 대화하도록 다시 설계했다고. 이 결과를 두고 의견이 분분하다. 챗봇이 대화를 통해 진화하면서 스스로 언어를 만든 것이라는 분석과 함께 단순한 오류일 뿐이라는 것. 이런 식이라면... 언젠가 인공지능은 인간이 알아들을 수 없는 언어로 대화를 주고 받고 작당모의를 할지도 모른다. 여러분의 생각은 어떠신지? 



Post a Comment

AD

CATEGORY

SOURCE

https://www.techly.com.au/2017/07/31/facebooks-ai-bots-are-communicating-in-a-language-we-dont-under
Or

Error message here!

Error message here!

아이디 찾기    비밀번호 찾기

Funtenna 서비스는 펀샵(funshop.co.kr) 에서 운영합니다.
펀샵은 [어른들을 위한 장난감 가게]로 익히 알려져 있으며, 2000년부터 성인들을 위한 각종 제품의 제작 및 수입 판매를 위해 (주)아트웍스코리아에서 운영하고 있습니다.

회원가입을 원하시면 아래 회원가입 버튼을 눌러주세요.

Lost your password? Please enter your email address. You will receive a link to create a new password.

Error message here!

Back to log-in

Close