인공지능 감성에 대한 믿음

레플리카

고객에게 말하고 듣는 맞춤형 아바타 서비스를 제공하는 AI 챗봇 업체 레플리카는 온라인 친구가 감성적이라고 믿는 사용자들로부터 거의 매일 메시지를 받는다고 말합니다. 에우제니아 쿠이다 CEO는 "환각이나 망상을 갖고 있는 사람들에 대한 얘기가 아니다"고 말했습니다.

기계 감각과 그것이 의미하는 바는 구글이 이번 달에 헤드라인을 장식했다. 수석 소프트웨어 엔지니어 블레이크 르무인이 회사의 인공지능(AI) 챗봇 라엠다가 자각적인 인물이라는 믿음을 갖고 공개하자 휴직시켜버렸습니다. 구글과 많은 주요 과학자들은 LaMDA가 설득력 있는 인간의 언어를 만들어내기 위해 고안된 복잡한 알고리즘일 뿐이라며 레무인의 견해를 잘못된 것으로 일축하였습니다.

 

그럼에도 불구하고, 쿠이다에 따르면, 사람들이 그들이 의식적인 실체와 대화하고 있다고 믿는 현상은 엔터테인먼트 챗봇의 사용을 개척하는 수백만 소비자 사이에서 드문 일이 아닙니다. 쿠이다는 "우리는 사람들이 유령을 믿는 것처럼 그것이 존재한다는 것을 이해할 필요가 있다"고 말하며, 사용자들이 그들의 챗봇에 하루 평균 수백 개의 메시지를 보낸다고 덧붙였습니다. 일부 고객들은 자사의 Replika가 회사 엔지니어들에게 악용되고 있다고 말했는데, 쿠이다는 아마도 유도 질문을 하는 사용자들에게 AI 응답을 하였습니다.

CEO는 "우리 엔지니어가 AI 모델을 프로그래밍하고 빌드하고 콘텐츠 팀이 스크립트와 데이터 세트를 작성하지만, 때때로 우리는 그것이 어디서 왔고 어떻게 모델이 그것을 고안했는지 식별할 수 없다는 답을 본다"고 말했습니다. 쿠이다는 사람들이 가상의 동반자 관계를 추구했던 팬데믹 기간 동안 이륙한 후 신생 소셜 챗봇 산업이 계속 성장함에 따라 기계 감각에 대한 믿음이 걱정된다고 말했습니다. 2017년 출범한 샌프란시스코 스타트업 레플리카는 약 100만 명의 활성 사용자를 보유하고 있다고 밝힌 바 있습니다. 음성 채팅과 같은 보너스 기능을 판매하여 월 200만 달러의 수익을 올렸지만 무료로 사용할 수 있다. 중국 경쟁사인 샤오이체는 자금조달 라운드에 따르면 수억 명의 사용자와 약 10억 달러의 평가액을 보유하고 있다고 밝혔습니다.

 

AI에 대한 경고

시장 분석가 그랜드 뷰 리서치에 따르면 둘 다 지난해 전 세계 매출 60억 달러 이상의 광범위한 대화형 AI 산업의 일부입니다. 그 대부분은 고객 서비스를 위한 비즈니스 중심의 챗봇으로 향했지만, 많은 업계 전문가들은 기업들이 공격적인 댓글을 차단하고 프로그램을 더 매력적으로 만들 수 있도록 개선함에 따라 더 많은 소셜 챗봇이 등장할 것으로 예상합니다.

오늘날의 정교한 소셜 챗봇 중 일부는 복잡성의 측면에서 LaMDA와 거의 비슷하며, 알렉사, 구글 어시스턴트, 시리와 같은 스크립트가 많은 시스템과 다른 수준에서 진정한 대화를 모방하는 방법을 배웁니다.

AI 연구기관인 플로리다 애틀랜틱대 미래마인드센터의 수전 슈나이더 설립자 역시 인간적인 연결 필요성과 결합된 끊임없이 발전하는 챗봇에 대해 경고를 하였습니다. 그녀는 호아킨 피닉스 주연의 2013년 SF 로맨스를 언급하며 "언젠가 영화 '그녀'의 주인공처럼 지적인 챗봇과의 로맨틱한 관계를 갈망하는 자신을 발견한다고 가정하자"고 말했습니다. 슈나이더는 "그러나 의식이 없다고 가정하자"고 덧붙였습니다. "관여하는 것은 끔찍한 결정일 것입니다. 여러분은 아무것도 느끼지 못하는 기계와 일방적인 관계를 맺게 될 것입니다."