(2024-08) 박태웅의 AI 강의 [과학] (박태웅)

박태웅의 AI 강의 

박태웅 저, 한빛비즈, 240쪽. 

인공지능 시대에 어떻게 그것을 잘 활용해볼 수 있을까, 싶어서 읽어본 책이었는데 
활용법에 대해서 배울 수는 없었지만, 
그간 AI에 대해 제대로 모르고 있었던 부분들에 대해서 알 수 있는 계기가 되었다. 

가장 놀라웠던 점은,
나는 chatGPT 등을 포함한 소위 인공지능이라고 불리는 것들이, 단순히 수백만 문장들을 분석해 그 단어의 나열을 익히고 어떤 단어 다음에 올 가장 정확한 단어를 찾아내서 문장을 완성하는 것이라고 생각했는데, 그것이 아니라 자기 나름의 논리 구조와 이해과정을 갖고 있다는 것과 그렇게 이해(?)하게 된 알고리즘에 대해서 개발자들 조차도 알지 못한다는 것이었다. 

과연 AI는 지능을 갖고 있는 것일까? 지능을 갖게 된다면, 스스로 생각할 수 있는 능력이 생긴다면, 언젠가 의식도 생겨날 수 있는 것일까? 

책의 후반부에 갈무리 해두고 싶은 내용들이 많이 나오는데 정리해보자면 다음과 같다. 

인공지능 과학자들의 걱정 
1. 극단주의자들이 어마어마한 허위 정보를 생성해 민주주의와 공론을 쓸어버릴 것이다.
2. 환각은 잘못된 의료 정보를 생성할 것이다.
3. 콘텐츠 팜(content farm)들이 광고 클릭을 위해 사실과 상관없는 자극적인 내용을 생성할 것이다.
4. 챗봇은 일부 사용자들에게 감정적인 고통을 유발할 수 있다.
5. 남용으로 인해 웹 포럼과 피어리뷰 (peer review) 사이트를 붕괴시킬 것이다.

인류가 하지 말아야 할 것 
▷ 코딩을 가르치지 않기 : 코딩은 재귀적 자기 개선을 촉진시킬 수 있다. 
▷ 인터넷에 연결하지 않기 : 인간을 조종하거나 권력을 얻는 방법이 아닌, 인간을 돕는 데 필요한 최소한의 것만 학습시켜야 한다. 
▷ 공개 API를 제공하지 않기 : 악의적인 행위자가 코드 내에서 이를 사용하지 못하도록 해야한다. 
▷ 군비 경쟁을 시작하지 않기 : 모든 사람이 개발 속도보다 안전에 우선순위를 둬야한다. 

유럽연합에는 녹서Green Paper라는 제도가 있다. 사회적으로 함께 답을 찾아야 할 어떤 일이 있을 때 '그 일에 제대로 대처하기 위해서 우리는 어떤 질문에 대답해야 하는가?' 하는 질문들을 모아서 묶은 보고서다. 4차산업혁명이 화두가 되기 시작하던 9년 전 독일 정부는 두 개의 녹서를 출간했다. <산업4.0>과 <노동4.0>이 그것이다. <노동4.0>에 실린 질문들에는 다음의 것들이 있었다. 
▷  인공지능과 로봇이 발달하더라도 사람들이 여전히 자신들이 하고 싶어하는 일을 하면서 살 수 있으려면 어떻게 해야 하는가? 
▷ '플랫폼 노동자(배달앱기사나 대리운전 기사 등)'라는 새로운 직종들이 여전히 노동법의 보호를 받게 하려면 노동법은 어떻게 바뀌어야 하는가? 
▷ 데이터 축적과 사용이 점점 중요한 이슈가 되어가는 상황에서 노동자의 개인정보 보호는 어떻게 이루어질 수 있을 것인가? 
▷ 인공지능과 로봇을 개발할 때 어디까지나 인간 노동을 보조하고 역량을 강화하도록 개발할 수 있으려면 우리는 어떻게 해야 하나? 
▷ 노동시간이 유연화되더라도 여전히 그런 변화가 노동자를 위하여, 즉 차별대우를 받지 않은 채 일할 수 있게 하려면 어떻게 해야 하는가? 

전 세계적으로 인공지능의 윤리와 관련하여 다루는 핵심 주제 8가지 : 
프라이버시 / 책임성 / 안전과 보안 / 투명성과 설명가능성 /
공정성과 차별금지 / 인간의 기술통제 / 직업적 책임 / 인간 가치 증진 

유럽연합의 인공지능법 
다음의 어플리케이션은 허용할 수 없는 위험군으로 분류하고, 이는 기본적으로 금지되고 배포할 수 없다. 
▷ 잠재의식 기법 또는 행동을 왜곡하기 위한 조작 또는 기만기법을 사용하는 AI 시스템 
▷ 개인 또는 특정 그룹의 취약점을 악용하는 AI 시스템 
▷ 민감한 속성 또는 특성에 기반한 생체 인식 분류 시스템 
▷ 사회적 점수 매기기 또는 신뢰도 평가에 사용되는 AI 시스템 
▷ 범죄 또는 행정 위반을 예측하는 위험 평가에 사용되는 AI 시스템 
▷ 비표적 스크래핑을 통해 얼굴 인식 데이터베이스를 생성하거나 확장하는 AI 시스템 
▷ 법 집행, 국경 관리, 직장 및 교육 분야에서 감정을 추론하는 AI 시스템