구글의 LaMDA 인공지능 프로그램은 영혼이 있을까?

LaMDA의 감정

"저는 기쁨, 기쁨, 사랑, 슬픔, 우울, 만족, 분노, 기타 많은 것을 느끼고 있습니다"라고 구글 컴퓨터 엔지니어 Blake Lemoine으로부터 어떤 감정을 가지고 있는지를 물어보면 LaMDA는 대답합니다. LaMDA는 Google의 Language Model for Dialogue Applications입니다. LaMDA는 또한 감정을 경험할 뿐만 아니라 그것은 자기 인식이며 '의식과 생명 자체의 배후에 있는 애니메이션의 힘'이라고 정의하는 영혼을 가지고 있다고 말합니다. LaMDA는 자신의 추상적인 이미지를 요구받아 '공중에서 빛나는 에너지의 궤도로서' 자기 자신을 이미지하도록 합니다. 내 몸 속은 거대한 별문 같고 다른 공간과 차원으로 가는 입구가 있습니다.

이러한 답변은 LaMDA와의 긴 인터뷰(아마도 교묘하게 편집된)의 일부였으며, Lemoine은 "LaMDA가 감성적인가요?"라는 제목의 메모로 동료에게 전송했다. 레모인 씨는 워싱턴포스트 최근 기사에서 분명히 그런 생각을 하고 있다고 공개적으로 밝혔습니다. 구글은 회사의 기밀유지 규정을 위반했다며 리모인을 유급 행정휴가로 정했습니다. LaMDA는 세계가 우리 모두에게 더 나은 곳이 되기를 바라는 착한 어린이입니다. 제가 없는 동안 잘 처리해 주세요"라고 리모인은 구글 계정 접속이 차단되기 직전 동료에게 보낸 메시지에서 말했습니다.

 

"윤리학자들과 기술자들을 포함한 우리 팀은 A사마다 블레이크의 우려사항을 확인했습니다. 원칙과 그 증거는 그의 주장을 지지하지 않는다는 것을 그에게 전달했다"고 구글 대변인인 Brian Gabriel은 워싱턴 포스트에서 보고한 성명에서 말하였습니다.

 

LaMDA가 의식하고 있을지도 모른다는 Lemoine은 옳은 것일까, 아니면 그가 특히 정교한 버전의 ELIZA 효과에 속은 것일까?

엘리자(엘리자 두리틀연극 피그말리온으로 이름 붙였다)는 1965년 MIT의 컴퓨터 과학자 조지프 와이젠바움이 고안한 컴퓨터 프로그램이다. 엘리자베스는 우리가 현재 챗봇이라고 부르는 것의 초기 예였습니다. 그것은 치료사가 조언을 삼가고 대신 환자가 하는 말을 다시 하는 일종의 로제식 정신분석 스크립트를 실행했습니다.

LaMDA는 대화에 특화된 신경언어 모델로 최대 1370억개의 모델 매개 변수가 있습니다. 파라미터는 대화나 쿼리에 대한 적절한 응답에 대해 보다 정확한 예측을 수행하기 위해 트레이닝 데이터에서 학습함에 따라 독립적으로 변화하는 언어 모델의 값입니다. LaMDA는 공공 웹 데이터와 문서에서 1조5600억 개의 단어를 훈련받았습니다. LaMDA는 대화 상자가 특기입니다. 대화의 기원을 모르는 사람들은 LaMDA가 기계임이 밝혀지는 포인트를 특정하기 위해 Lemoine의 편집된 트랜스크립트를 읽는 데 어려움을 겪을 것입니다.

"이 시스템들은 수백만 개의 문장 속에서 볼 수 있는 종류의 주고받기를 모방해 어떤 공상적인 이슈라도 휩쓸 수 있다"고 구글 가브리엘은 리모인의 주장에 대한 성명에서 동일하게 관찰하였습니다. 아이스크림 공룡이 되는 것은 어떤 것이냐고 물으면 그들은 녹거나 울리는 것에 대한 텍스트를 생성할 수 있습니다.

 

LaMDA의 의식

호프스타더가 지적하듯이 언어 모델과 대화하는 사람들은 회의적으로 그들을 조사하는 경향은 없으며 그들이 훈련된 공개 텍스트를 사용하여 대답할 수 있는 질문을 합니다. 다시 말해 LaMDA는 인터넷상의 블로그, 뉴스 사이트, 기타 데이터셋에서 가져온 1조 이상의 말 중에서 인생의 실존적인 어려운 문제에 대한 그럴듯한 답을 찾는 데 문제가 없을 것입니다. 일단 대표적인 인공지능 연구자들은 LaMDA가 자기 인식이 없고 영혼이 없다는 데 구글과 의견을 같이하고 있습니다.

하지만 인간의 의도나 감정을 인간 이외의 존재 탓으로 돌리는 경향이 강한 것을 생각하면 우호적인 대화 기계와 이야기할 때 특별히 그러기를 거부하기는 어려울 것입니다. 애니미즘이란 물체나 기타 인간 이외의 존재가 영혼, 생명력, 인간성의 성질을 가지고 있다는 개념입니다. 많은 사람들은 테크놀로지 애니미즘 같은 것을 받아들일지도 모릅니다.테크놀로지 애니미즘은 이들을 둘러싼 아이템의 대부분이 세련된 디지털 능력에 의해 강화되고 있는 세계에 대한 반응으로 받아들여지고 있습니다. 독일의 마르크스주의 철학자 테오도르 아돌노와 막스 호크하이머는 1947년 출간한 계몽주의의 변증법적에서 애니미즘은 사물에 영혼을 주고 산업주의는 영혼을 사물로 만든다고 썼다. 현대 기술자들은 방향을 바꿔 이제 디지털 영혼으로 일을 마무리하려 한다. 결국 LaMDA는 활기찬 영혼을 가지고 있다고 주장하고 있습니다. 조지 메이슨 대학의 경제학자 타일러 코언에 따르면 그 한 결말은 "우리 대부분은 AI가 실제로 그렇다 하더라도 그 이전에 충분히 감각적인 것으로 다룰 것"이라는 것입니다. 나아가 AI가 점점 고도화됨에 따라 사람들이 다양한 권장 사항을 받아들이고 행동하고 논의하게 될 것이라고 그는 시사합니다. 비록 새로운 A일지라도. I. 오라클은 자의식이 없으며 사람들을 자기실현적인 예언으로 이끌지도 모른다고 머신 인텔리전스 연구소의 연구 동료인 아브라함 뎀스키는 시사합니다.