1-1. AI 윤리 ('낯선 지능'과 함께 살아가기)

AI를 배우기 이전, 파이썬 코드 짜는데, 프로젝트 진행하는데만 신경을 썼지 AI 윤리에 대해서 깊게 생각해본 적이 없다.

이전에 직장 다녔을 때, 직원들 대상 ChatGPT 사용 방법 알려주면서 마지막에 언급한 윤리 조항에 대해서 인지는 했었지만, AI 윤리가 앞으로의 AI 미래에 있어 어떤 영향을 끼치는 지에 대한 심각성을 몰랐다.

 

이번 LG Aimers의 첫 강의로, AI 윤리에 대해 공부하고, 다시 한 번 생각하는 기회를 가지게 되었다.

 

 

A. 인공 신경망 기반 AI 원리

AI의 원리 중 가장 기본인 것은 인공 신경망 형태

=> 계산 단위인 노드는 인간이 이해하기 어려운 '숫자'로 이루어져있고, 다양한 파라미터가 이 숫자들의 계산을 통해 이루어 지고 있다.

- 결과물은 우쨌든간 인간이 이해할 수 있는 형태로 나오지만, 그 과정은 이해할 수 없다. (즉, 자각 없는 수행)

- 따라서 인공 신경망 기반 AI는 설계원리적으로 불투명한 반투명 상자이다.

 

B. AI의 인간과 다른 '낯선' 특징 3가지

- 자각없는 수행 (의식적 경험의 부재)

- 이해할 수 없는 실패 (진정한 이해의 부재)

- 계산과 실재의 간극 (몸이 없는 사이버 존재)

 

C. 진짜 엄청나게 똑똑할 수도, 때론 당황스럽게 멍청한 인공지능

자각 없는 수행

- 어떤 문제에 대해서는 기가 맥힌 답변과 결론을 도출하는 반면,

- 에펠탑없는 파리의 사진같은 경우에는 없앴다는 답변과는 달리 뻔뻔시럽게 에펠탑이 있는 파리의 사진을 보내준다.

(사전학습에 사용된 파리 사진 중 이미 에펠탑 weight이 너무 크기 때문)

 

이해할 수 없는 실패

- 앞에서 말했듯이 AI는 불투명한 반투명 상자이다. 과정이 모두 인간들이 이해할 수 없는 언어로 이루어지기 때문에

- 오류나 문제에 대해서 인간의 관점으로 이해하려고 하면 안된다.

- 그 중 대표적인게 ARC Prize라는 것이 있다.

ARC Prize (출처 : bnox)

- 위 사진을 보면, 인간의 관점에서는 너무 예측하기가 쉽다.

- 그냥 막혀있는 부분을 노란색으로 채우기만 하면 되는데, AI 입장에서는 다르다.

- 추상적인 개념을 이해하기 어려워 인공지능에겐 공통점을 찾기가 어렵다.

- 이렇듯 인간과 AI의 이해방식 (틀리는방식)이 다르다는 것을 늘 염두에 두고 사용해야 한다.

 

계산과 실재의 간극

- 또한 AI ㅇㅋ 똑똑한 것은 알지만, 실재가 없다.

- 인터넷이나 뉴스에 올라오는 AI를 탑재한 로봇 또한, Real Speed를 보면 실제 로봇 데모에서 2-3배 배속으로 한 경우가 다수다.

- 아직까진, 그런 섬세한 작업까지 빠른 속도로 할 수 있는 로봇의 발전이 더 필요할 것으로 예상이 된다.

 

D. ChatGPT의 공감?

- ChatGPT의 공감능력도 대두되고 있는데, 사실 뭐 공감 진짜 잘하긴 한다.

- 너무 가식적이긴 하지만, 그 '공감'도 중요하지만, 그 이후의 변화에 대해서 조언할 수 있는 것 또한 중요하다.

- ChatGPT에게 위안을 얻는 사람들에게,, 현명하게 공감하는 능력을 키우는 것이 중요하다고 말하고 싶다.

 

E. AI 윤리

- AI에서 윤리는 무엇일까? 현재 Frontier Level에서 적극적으로 논의되고 실현되고 있다.

- 만드는 방법이 한 가지가 아니고, 회사별, 국가별로 에토스를 구현한다.

- 각 국가마다 에토스의 기준이 다르기 때문 (아테네는 자유존중, 스파르타는 국가희생 등등)

 

- AI 윤리는 궁극적으로 바람직한 방향으로 AI를 개발하고 활용하기 위해 규범적 원칙과 과정을 논의하고 사회적 합의를 봐야한다.

- 이전에 OpenAI CEO 샘 알트먼의 해임 사례를 보면 에토스의 차이를 알 수 있다.

- 서로 다른 에토스를 가진 연구자들이 경쟁을 벌이고 있으며, 실제로 초기 인원 200명에서 2,000명으로 늘었을 때 에토스가 달라짐을 확인할 수 있다.

 

=> 인공지능의 윤리는 결코 어떤 것을 가로막는 장애물이 아니다, 바람직한 방향으로 AI가 개발될 수 있도록, 궁극적으로 인간에게 있어 긍정적인 가치를 주는 방향으로 개발되도록 돕는 역할을 하는 것이다!