스켑틱 _ VOL.38 _ AGI, 유토피아 혹은 디스토피아?

스켑틱, VOL.38, AGI, 유토피아 혹은 디스토피아?

 

 

 성공에 관한 글을 쓰면서 알게 된 유일한 규칙이 있다면, 성공에는 규칙이 없다는 것이다. 누군가는 자신을 적극적으로 알려서 성공하고, 누군가는 침묵을 지켜 성공한다. 누군가는 고급화로, 누군가는 대중적으로 퍼트려 성공한다. 대중의 열망에 올라타 성공한 이가 있는가 하면, 대중이 욕을 해도 자기 방식을 불도저처럼 밀어붙여서 성공하기도 한다. 

 

 

 감정은 우리가 번식의 성공률을 높이는 방식으로, 특히 우리의 구석기 시대 선조들이 직면한 위협에 대응해 반응하도록 하는 지능의 대용물이다. 분노는 맞서 싸워서 자신을 방어하도록 이끌고, 두려움은 위험에서 도망치도록 하며, 혐오는 우리에게 해로운 것을 멀리하도록 이끈다. 위험에 당면해 위험의 확률을 계산하는 것은 시간이 너무 오래 걸린다. 

 

 

 아이러니하게도 AI 프로그램이 인간과 놀라우리만큼 비슷한 점은 사실을 왜곡하는 성향이다. 내가 마이크로소프트의 AI인 코파일럿Copilot에 부동산 시장의 규제 완화 효과에 관한 다섯 편의 논문을 알려달라고 요청했을 때, 프로그램이 제시한 논문 중 세 편은 논문의 제목이 거짓이었고, 나머지 두 편은 저자가 가상의 인물이었으며 게재된 학술지 역시 가짜였다. 심지어 각 논문의 내용을 거짓으로 요약하기까지 했다. 정보를 제공하는 대신(또는 정보를 찾을 수 없다고 인정하는 대신) 그저 정보를 지어낸 것이다. 정보 전체를 날조하는 이 같은 행위를 일반적으로 ‘환각hallucination’이라고 부르는데, AI 프로그램의 환각은 드문 일이 아니다.

 

 

 만약 석유가 너무 비싸지게 되면 어떻게 될까? 우리가 낭비하는 지금의 자원이 너무도 소중해질 것이다. 석유 외에는 어떤 것으로도 플라스틱을 값싸게 만들 수 없다. 석탄이나 다른 어떤 것으로도 말이다. 

 

 

 멜작과 윌은 이와 유사한 여러 사례를 검토한 후 통증 경험에 있어서 뇌 전체가 매우 중요한 역할을 한다고 제안했다. 즉, 뇌는 체성 감각 정보들을 통합하고 선택하며 추상화하여 다양한 반응과 주관적 경험을 만든다. 그리고 우리는 그것을 ‘통증’이라는 명칭으로 부른다. 우리가 단일 명칭으로 부른다고 해서, 그것이 생물학적으로도 단일한 현상임을 의미하는 것은 아니다. 오히려 ‘통증’은 뇌에서 표상되는 굉장히 풍부하고도 다양한 경험과 반응을 가리키는 용어이다….. 이 논문 이후로 연구자들은 뇌 전체에 관심을 갖기 시작했다. 주의, 감정, 기분, 동기, 기대, 신념 등과 같은 심리학적 개념들이 통증과 연결되기 시작했고 자극의 입력을 처리하는 ‘수동적인 뇌’에서, 통증 경험을 만들고 구성하는 ‘주체로서의 뇌’로 관점이 변화되었다.

 앞에서 통각이라는 단어를 잠깐 지나가듯 사용했는데, 연구자들은 이제서야 통증pain과 통각nociception을 엄격하게 구별하여 사용하기 시작했다. 통각은 말단에서 통각뉴런nociceptor을 통해 유해한 자극을 감지하는 것을 말한다. 반면, 통증은 정의상 불쾌한 감각과 감정을 포함하는 주관적 경험을 의미한다.