인간을 닮아가며 똑똑해졌만 차별과 편견까지 학습해 윤리적이지 못한 인공지능들이 논란을 끌고 있는 가운데, 인공지능의 문제점과 지향점을 제시하는 강연이 열렸다.

제주국제자유도시개발센터(JDC)가 주최하고, [제주의소리]와 제주대학교가 공동주관하는 2021 JDC AI 대학생아카데미가 비대면 온라인 영상으로 2021년도 1학기 두 번째 강의를 16일 공개했다.

30년 넘게 군에서 사이버보안, 데이터 처리 분야 전문가로 재직했던 부성철 서울사이버대 교수가 ‘인공지능 시대, 정보보안’을 주제로 강연을 펼쳤다.

부 교수는 인공지능의 인지·지각 능력이 여러 산업에 사용되는 사례들을 설명했다. 문장이 완전하지 않더라도 행간을 읽어 글을 번역하거나, 입사지원자의 자기소개서를 분석해 직무와 잘 맞는 지원자를 뽑고, 차량번호판 등 이미지를 즉시 자동으로 인식하거나, 특정인의 음성을 모방해 거의 비슷한 목소리로 새로운 말을 하는 등 인공지능의 활용범위는 무궁무진하다.

부 교수는 “인공지능은 전문 시스템에 접목돼 치료에 사용되기도 한다. 국내 대형병원에도 설치돼 운영되고 있는 IBM의 왓슨(Watson)의 경우 암에 대한 수백 권의 의학교과서와 저널, 1500만편의 논문을 학습했다. 그 결과 대장암, 직장암 등 암 진단에 99% 이상의 성과를 냈다”고 말했다.

하지만 인공지능의 발전과 더불어 심각한 위협 요소들이 존재한다. 미성숙한 자율주행 기술로 대형 교통사고가 발생했고, 생체 인식의 경우 위조된 정보가 인식되거나, 생체정보가 유출되는 문제를 마주했다.

부 교수는 “최근 간편결제와 더불어 핀테크의 영역이 확장되며 금융 분야에서 생체 인식 인공지능의 사용이 아주 보편화됐다. 불충분한 학습으로 위조된 생체를 인지하지 못해 발생하는 사고가 많다. 지문, 정맥 같은 경우 위조도 쉬운 편”이라고 설명했다.

그러면서 “위조 생체를 탐지하는 방법은 주로 살아있는 사람의 생체를 탐지하는 방법으로 실현되고 있다. 지문의 경우 미세한 손의 땀을 인식한다”며 “금융권에서는 생체 정보를 분할해 따로 보관하는 방법을 사용하거나, 인공지능이 추출한 특징만 보관하고 원본은 삭제함으로써 생체 정보의 유출 가능성을 차단하기도 한다”고 방안을 전했다.

가짜뉴스와 성범죄물에 악용되고 있는 딥페이크 기술과 성희롱, 혐오 표현, 사회적 약자에 대한 편견 또한 학습해 논란이 됐던 이루다 스캐터랩 AI 채팅봇에 대해서도 “인공지능이 학습과정에서 사회적 약자나 인종에 대한 혐오와 차별에 대한 세심한 주의를 하지 않았거나 학습내용이 불충분한 상태에서 서비스를 시작한 결과”라고 문제를 짚었다.

이어 “AI알고리즘에 있어 인종, 젠더 차별을 경계해야 한다. 아마존의 경우 여자만 탈락하는 AI채용 프로그램을 폐기했다. 남성적 표현에 가점을 주고, 여대를 졸업하거나, 여성 동아리 활동 실적이 있는 경우 감점 처리를 했다. 축적된 아마존 입사지원서를 보고 학습했는데 대다수의 개발자가 남성이었기 때문”이라고 말했다.

이런 허점을 해결하기 위해 국내에서는 인공지능을 연구하고 개발하는 전문가들이 모여 인공지능 윤리헌장을 제정하거나, 내부 윤리규칙을 만들어 따르고 있다.

윤리헌장에서 공통적으로 강조하는 내용은 다음과 같다. ▲인간중심의 개발(인간이 최소한의 의사결정권을 보유할 수 있도록 설계해야 한다) ▲알고리즘은 특정 집단에 차별이나 편향이 없이 공정해야 한다 ▲인공지능이 판단한 결과의 투명성을 증명할 수 있어야 한다.

한편 지난해까지 ‘4차 산업혁명 아카데미’으로 진행됐던 JDC 인재 육성 아카데미는 올해 ‘AI 대학생 아카데미’라는 이름으로 새단장했다. 매주 화요일 제주대학교 이러닝센터와 [제주의소리] 홈페이지 소리TV(모바일, PC) 영상으로 시청 가능하다.