[02]IT trend_ 빠르게 성장하는 AI, 인간사회를 위한 안전 수칙은?

 

이번 주제는 새로운 인공지능의 기술적인 면보다는 윤리적인 측면을 다뤄보려고 합니다!

ChatGPT가 등장한 이후부터 새로운 AI들이 공개되기 시작했습니다. 박태웅 현 한빛미디어 이사회 의장은 한 라디오에 나와 ChatGPT가 나온 이후 2주동안 일어난 변화가 10년동안의 발전과 맞먹는다고 할 정도로 , 우리는 정말 빠른 속도로 발전하고 새로운 기술들이 생겨나는 순간 속에 있습니다.

MS 인공지능 윤리팀 전원 해고

 하나 놀라운 사실은 이런 빠른 흐름 속에서 생각보다 우리에겐 안전책이나 윤리에 대해서는 생각해보지 않았다는 것입니다. 지금 chatGPT로 인해서 변화의 중심에 있는 MS가 경기 둔화를 이유로 최근 직원 1만여명을 정리해고했습니다. 이 과정에서 인공 지능 ‘윤리사회팀(ethics and society team)’ 직원 전원을 내보냈다고 기술 전문 뉴스레터 <플랫포머(Platformer)>가 보도한 바가 있습니다. 

 

 원래 MS에는 AI 윤리와 관련된 3개의 팀이 있었습니다. 가장 상위 그룹이라고 할 수 있는 AI원칙과 거버넌스 담당 ORA (Office of Responsible AI), AI 자문 그룹 Aether Committee, 그리고 앞 두 그룹의 자문과 조언을 바탕으로 구현하는 실제 엔지니어링 구현 그룹 RAISE( Responsible AI Strategy in Engineering) . 그런데 이번에 실제 그 구현그룹을 통째로 없애버린 것이나 마찬가지인 상황이라는 것입니다.

 

 MS는 구글로부터 시장 점유율을 1%를 빼앗을 때마다 연간 20억 달러의 매출을 올릴 수 있고, 경쟁사보다 먼저 AI제품을 출시하는 데 더 집중하는 AI 개발 ‘속도전’에 힘을 쏟고 있는 것이 윤리팀 축소의 원인과 관련이 있음을 시사하고 있습니다.

테크업계 인사들 ‘ 반년간 개발 중단’ 제안

 일론머스크 테슬라 최고 경영자, 애플 공동 창업자 스티브 워즈니악 등 미국 테크업계 거물과 석학등 1000여 명이 AI 발전 속도에 대한 우려와 경고를 내놓았습니다. 이렇게 ‘실리콘밸리의 상징’들이 기술 속도 조절에 대한 이야기를 꺼낸 것은 상당히 이례적인 일로, 그만큼 최근 AI 발전이 실리콘 밸리의 시각에도 지나치게 빠르다는 것으로 받아들일 수 있겠습니다.

 

 반년간 개발 중단 제안의 배경은 AI를 안정적으로 제어할 안전망을 확보할 시간을 벌기 위함이라고 합니다. 인류가 직면할 위험, 특히 AI로 인한 위험을 줄이기 위한 활동을 하는 미국 비영리단체 미래생명연구소(Future of Life Institute: FLI)가 작성한 공개 문서에 AI가 지구상에 중요한 변화를 가져올 수 있고, 실제로 그러한 변화 속에 있음에도 그 중요성에 상응하는 계획이나 대응책이 부재한다는 것을 지적하고 있습니다.

 

 6개월의 개발 중지 기간 동안 AI 안전 규약을 마련하자는 것이 주요 주장이라고 할 수 있겠습니다. 또한 이 기간동안 AI와 관련한 근본적 질문에 답을 내고자 제안한 것이라고도 합니다.

 

🤔 AI에 대한 근본적인 질문은 다음과 같습니다.

1. 인간이 잘하고 있는 작업까지도 자동화를 해야하는지
2. 인간의 능력을 능가해 결국 인간을 대체할 수 있는 도구를 개발하는 것이 옳은지
3. 문명에 대한 통제권을 잃을 수도 있는 위험을 감수하는 것이 맞는지

---

현존하는 AI 윤리에 관한 안전책 , 법안

 ChatGPT 출시 이전에도 AI는 기술적으로 꾸준히 발전해왔습니다. 그리고 AI로 인한 문제점을 인식한 부분도 분명히 있었습니다. 지금 현재 존재하는 AI 윤리 백서와 법안에 대해 2가지 정도를 알아보려고 합니다.

AI윤리백서 ‘로마콜(Rome Call)’

출처)&nbsp; https://zdnet.co.kr/view/?no=20200301174002

 

 로마 교황청이 인공지능 시스템이 준수해야 할 규정과 원칙을 지난 2020년 2월 28일에 발표했습니다. 외신에 따르면 ‘AI 윤리를 위한 로마 콜(Rome Call for AI Ethics)’은 마이크로소프트, 페이스북 같은 테크 기업들이 지지하고 또 준칙 마련에 도움을 줬다고 합니다.

 

 ‘로마 콜’은 서문, 윤리, 교육, 권리 등 4개 부문으로 이뤄져 있습니다. 서문에서는 현재 그리고 앞으로도 계속 큰변화를 가져올 신기술은 모든 인간 가족(human)에 봉사한다는 원칙을 기반에 두고 연구, 상용화돼야 한다는 것을 강조했습니다. 또 AI의 윤리적 활용을 위해 필요한 6가지 원칙으로, 투명성, 포용, 책임성, 불평부당, 신뢰성, 보안 &프라이버시 등을 제시하며, AI가 윤리적으로 디자인되어아 한다는 algor-ethical 이라는 새로운 개념을 제안하기도 했습니다.

유럽 연합 AI법

 첫 인공지능 규제 프레임 워크인 EU의 ‘AI법(AI Act)’ 초안에는 자동화 공정에서부터 자율 주행차에 이르기까지 광범위한 분야에서 AI의 잠재적 위험성을 제거하기 위한 내용을 담은 것으로 알려졌습니다.

 

 초안 작성이 예상보다 늦어졌다고는 하지만, 5년 동안 차곡차곡 준비해왔다는 점에서는 다른 국가들이나 기업에 귀감이 되는 부분이 라고 할 수 있겠습니다. EU의 AI법은 AI기술을 주도하는 몇몇 주요국가의 영향이 미치는 범위뿐만 아니라 광범위한 분야에서의 AI의 위험성을 제거하기 위한 기준을 담았다고 할 수 있습니다.

 

🚫 위험도가 높은 다음 인공 지능 4가지는 금지

1. 사람이 인식하지 못하는 사이에 사람의 행동양식에 왜곡에 가져오거나 피해를 초래할 수 있는 인공지능 시스템
2. 나이, 신체적 장애, 정신적 장애 등 특정 집단에 속하는 사람의 취약점을 이용해 이들이나 제 3자에게 해를 끼칠 우려가 있는 인공지능 시스템
3. 개인의 사회적 행동양식이나 속성에 기초해 사회적 신뢰도 등에 대해 공공기관이 점수화하고 이로부터 부당한 불이익이 발생할 수 있는 유형의 인공지능 시스템
4. 공공장소에서 법집행을 목적으로 실시간 원격 생체정보 식별을 하는 인공지능 시스템 중 납치, 테러, 범죄자 확보 등 법에서 허용하는 예외 상황에 해당하지 않는 경우

 

🤔 opinion

 새로운 기술이 나오면 그러하듯 , 이제까지 존재하지 않아 과거에는 생각지도 못한 윤리적인 문제에 부딪히게 됩니다. 처음에 자동차가 발명되었을때도, 자동차가 사람을 치면, 자동차를 처벌할 것인가, 그 자동차를 운전한 사람을 처벌할 것인가에 대해 고민했다고 합니다. 현재의 우리는 이런 문제에 대해 고민할 필요가 없지만 , 자동차가 지금의 인공지능과 같았던 시대에는 어려운 문제였을 것이라는 생각이 듭니다.

 

 정말 하루하루 새로운 인공지능, 더 개선된 인공지능이 나오고 있습니다. 이전에는 10년이라는 시간을 투자해야 할 수 있었던 것을 몇 주안에 이루는 것을 보면 정말 무섭도록 빠르고, 밀려오는 새로운 기술에 깔릴 것(?) 같다는 생각이 과하지 않을 정도 입니다. 특히 ChatGPT, GPT-4는 닶이 없는 질문에 대해 학습한 데이터를 가지고 가장 그럴듯한 대답을 내놓는다고 하니, 어느 순간에는 인간이 참/거짓을 판별할 수 없을 정도일 수도 있을 것이라는 의견도 있습니다.

 

 사람들이 걱정하는 ‘인공지능이 사람을 대체하는 세상’ 이 되지 않으면서 우리가 인공지능을 도구로 사용할 수 있기 위해서는 어느정도 제동장치가 필요해 보이는 시점입니다. 이미 유럽이나 미국에서는 몇년전부터 법안을 준비하고 있을 정도라고 하니, 우리나라는 지금시작해도 늦은 것일지도 모릅니다.

 

 이번주 주제는 항상 나오는 주제인 만큼 식상할지도 모르지만, ChatGPT의 똑똑함에 정말 놀라면서 ‘가장 기본적인 것이 제일 중요한 것이구나’하는 생각이 절실히 들어 준비했습니다! 무조건 직진할 것 같은 일론 머스크가 개발 중지를 제안을 왜 했나 궁금했는데, 개인적인 궁금증도 해결할 수 있는 주제였던 것 같습니다!

DX 컨설턴트 트랙에 참여하는 사람으로서 , 기술 옆에는 항상 안전벨트를 잊지 말아야 겠다는 것을 절실히 느끼면서 이번주 주제를 마치겠습니다 😍

---

참고

zdnet(2020.03.01), 교황청, AI 윤리 백서 '로마 콜' 발표...6대 원칙 제시, https://zdnet.co.kr/view/?no=20200301174002

교황청, AI 윤리 백서 '로마 콜' 발표...6대 원칙 제시

 

한겨례(2023.03.17), MS ‘인공지능 윤리팀’ 전원 해고, 왜?, MS ‘인공지능 윤리팀’ 전원 해고, 왜?

MS ‘인공지능 윤리팀’ 전원 해고, 왜?

 

한국일보(2023.03.30), 일론 머스크도 AI 속도가 무섭다... 테크업계 인사들 "반년간 개발 중단" 제안, https://m.hankookilbo.com/News/Read/A2023033013030001449

일론 머스크도 AI 속도가 무섭다... 테크업계 인사들 "반년간 개발 중단" 제안

 

[김어준의 다스뵈이다] 254회 돈카츠 오므라이스 정상회담, GPT 4.0과 스카이넷, 이재명 사퇴는 없다

35:34~ 박태웅 현 한빛미디어 이사회 의장 설명 부분 참고

https://www.youtube.com/watch?v=LSYW84cQMhc&t=3315s