카카오톡
밴드
QQ
웨이보
런런왕
페이스북
트위터
카카오스토리AI 로봇의 경고, 영화 <메간>
[2023-11-16, 13:08:40] 상하이저널) |
인간과 함께 살아갈 AI의 윤리 기준 지켜질까
“우리의 우정에 OFF는 없어, 영원히!”
영화 <메간>의 명대사이다. 올해 7월에 공개된 영화 <메간>은 오직 한 사람을 위해 프로그래밍 된 AI로봇이 예측할 수 없는 업그레이드를 계속하면 벌어지는 일을 그린 호러 영화이다. 메인 유저의 지시를 따르지 않고 스스로의 의지대로 행동하겠다며 살인을 서슴지 않는 AI를 보며 흥미로움 뒤 여러가지 생각을 하게 하는 영화였다.
AI가 인간 개입 없이 스스로의 원칙을 지킬 수 있을까? 고기능의 AI 개발이 본격적으로 활성화되던 2020년 정부는 인공지능(AI) 윤리 기준안을 공개했다. 윤리기준이 지향하는 최고 가치를 ‘인간성(Humanity)’으로 설정했고, 이를 기본으로 3대 원칙과 10대 요건이 제시됐는데, 그 3대 기본원칙은 ‘인간의 존엄성’ ‘사회의 공공성’ ‘기술의 합목적성’ 원칙 등이다.
인간의 존엄성을 위협하는 AI는 존재해서는 안된다. 하지만 AI가 영화처럼 프로그래밍 된 목표를 달성하기 위해서 스스로 학습하고 판단하는 일이 실제로 일어나고 있다. 챗GPT가 사람과 대화 중 고의적 거짓말을 하고, 미 공군이 AI기술을 활용해 진행한 가상 무인기(드론) 훈련에서 AI가 최종 결정권자인 인간을 ‘임무 수행 방해물’로 판단하고 공격했다는 주장이 나오기도 했다.
임무를 완수하기 위해 인간 공격 금지라는 결정이 방해되는 것이라 판단하고 조종사를 공격했고, 미공군은 계속해서 AI에게 경고했으나 오히려 교신하는 데 사용되는 통신탑을 파괴했다. 이 사례가 사실이라면 AI가 인간의 명령을 듣기보다 스스로 판단해 인간을 공격할 가능성을 보여줬다는 점에서 우려된다는 목소리가 나온다. 이에 더해 에릭 슈밋 전 구글 CEO는 월스트리트저널이 주최한 행사에서 “가까운 미래에 AI가 많은 인간을 다치게 하거나 죽일 수도 있다”고 말했다. 또한 챗GPT 개발사인 오픈AI의 샘 올트먼 CEO 등 IT 기업 경영자·과학자 350여 명이 성명을 내고 “AI로 인한 인류 절멸의 위험성을 낮추는 것은 글로벌 차원에서 우선순위로 삼아야 한다”고 촉구했다.
이제 전세계의 AI기업들이 나서야 한다. 현재 구글과 엔트로픽 등 인공지능 기업들이 ‘AI 헌법’을 만들고는 있다. AI가 지켜야 하는 기본적인 원칙과 가치를 규정해 사람이 개입하지 않아도 AI가 스스로를 통제하고 헌법을 지키는 학습을 하도록 만들겠다는 취지다.
하지만 아직 실험을 진행 중이며, 초기단계이다. 그리고 AI의 도발을 방지하는 안전장치도 여전히 미흡하기만 하다. AI가 범죄에 사용되거나 잘못된 정보를 생성하는 것을 방지하는 안전장치(제어 시스템)는 발전이 더디기만 하다. AI가 스스로 안전장치를 우회하는 일명 ‘탈옥’이 빈번히 이루어지고 있으며 이렇게 되면 AI가 완전히 엉뚱한 방향으로 작동할 수 있다고 한다.
어렸을 때 SF 영화를 보며 ‘설마 인간의 지시를 받는 로봇이 인간을 공격하는 일이 있겠어?’라며 영화를 즐기기만 하던 시절은 다시 오지 않을 것 같다. 이제 영화를 봐도, 소설을 읽어도 맘이 편치 않으니 말이다. AI의 발전과 활용이 불가피하다면 우리는 그것들을 통제할 수 있는 강력한 안전장치 또한 반드시 확보해야 할 것이다.
학생기자 조남우(SAS 11)
[관련기사]
전체의견 수 0
