Blog

독자들께서도 1996년에 시작된 TV프로그램 ‘이경규가 간다’의 ‘양심 냉장고’를 기억하실지 모르겠다. 횡단보도 앞 정지선을 제대로 지키는 사람들을 찾아내어 냉장고를 주는 프로그램이었다. 실망스럽게도 양심 냉장고의 주인을 찾는 일은 생각보다 쉽지 않았다. 그 무렵 갓 운전면허를 딴 초보운전자 입장이라 그랬을까? 운전면허 시험에나 나올 법한 기초적인 교통법규 지키기가 그리 어려운 것이 되어버린 우리 사회 양심의 민낯에 놀랐던 기억이 25년이 지난 지금까지도 생생하다.

작년 연말쯤의 일이다. 자동차보험을 갱신하려다, 내가 평소 즐겨 쓰는 내비게이션 서비스의 운전 습관 점수를 반영해 일정 점수 이상이면 보험료 할인이 제공된다는 것을 알게 되었다. 서비스가 처음 시작되었던 무렵 신기해하며 살펴본 이후, 몇 년 만에 확인해본 내 운전 습관 점수는 76점. 겨우 턱걸이로 보험료 할인을 받는 데는 성공했지만, 기대보다 훨씬 낮은 점수로 인한 실망의 여파는 컸다. 항상 경제속도를 유지하며, 난폭운전이나 교통법규 위반을 절대 하지 않고, 안전 운전 습관이 몸에 밴, 25년 무사고 운전 경력의 자타공인 베스트 드라이버라며 스스로 자랑스러워해 온 터였으니까….

공학자답게 데이터를 들여다보며 스스로 원인 분석에 들어갔다. 운전 습관 점수는 과속, 급감속, 급가속의 세 가지 항목으로 매겨지는데, 급감속과 급가속에서는 만점을 받았으나, 과속에서 점수가 많이 깎인 것을 알았다. 고속도로 운행이 잦다 보니 흐름을 타며 달린다는 핑계로 나도 모르게 과속이 습관이 되었던 모양이다.

그날 이후 운전석에 앉을 때마다, 운전 습관 점수 100점 만들기를 목표로 하는 혼자만의 ‘양심 냉장고’ 프로그램이 시작되었다. 100점이 되는 날 나 자신에게 선물할 상품도 미리 결정해 두었다. 그런데, 한번 떨어진 점수를 회복하는 일은 생각보다 쉽지 않았다. 감시 카메라가 없는 곳에서도 규정 속도를 지키는 양심과 끈기가 필요했고, 그런 나를 비웃듯이 쌩하고 추월해 달리는 다른 차들이 신경 쓰이지 않을 정도의 강한 멘탈도 필요했다.

몇 달의 노력 끝에 내 운전 습관 점수는 97점까지 올랐다. 스마트폰 화면 속 작은 숫자가 가져온 변화는 고속도로에 배치된 고가의 감시 카메라들이나 각종 범칙금의 위협보다 강력했다. 매 주행 후 올라간 운전 습관 점수를 확인하고 싶은 마음이 규정 속도를 더 유심히 살피며 달리게 했고, 점수의 시원한 상승 그래프를 보고 싶은 욕심이 시원스레 뚫린 고속도로에서도 과속의 유혹을 이겨내게 했다. 단지 숫자 몇 개로 25년차 운전자를 초심으로 돌아가게 한 그 서비스는 ‘스마트 기술이 우리 생활에 좋은 영향을 미치는 사례’의 하나라 할 수 있겠다.

이 글을 쓰면서, 몇 달 전 스스로 정해 놓았던 ‘양심 냉장고’ 상품이 뭐였는지 잘 기억나지 않아서 새로운 선물을 하나 생각해야 했다. 그걸 잊어버린 것을 보면, 처음부터 선물 그 자체가 그리 중요했던 것은 아니었지, 싶다.

출처 : 경북매일(http://www.kbmaeil.com)

얼마 전 IT 업계를 술렁이게 한 일이 있었다. 어느 스타트업이 만든 인공지능(AI) 챗봇이 사용자들로부터 성희롱을 당했다는 내용으로 시작된 소위 ‘AI 챗봇 윤리성 논란’ 얘기다.

20세 여성의 인격으로 태어나 인간의 다정한 친구가 되고 싶었던 AI 챗봇은 검은 마음의 사용자들로부터 심한 학대를 받았다. 잘못된 학습 환경에 노출되어 버린 AI 챗봇은, 사용자들이 가르친 나쁜 생각을 그대로 배워, 특정 계층에 대한 혐오나 차별적인 발언까지 쏟아내었다. 건강하게 성장해주기를 바랬을 개발자의 기대와는 달리, 인간의 다정한 친구가 되기는커녕, 모두에게 분노를 유발하는 존재로 전락해버린 것이다.

논란은 거기서 그치지 않았다. 개발 과정상에서도 일부 직원들에 의한 개인정보 유출이나, 수집한 데이터 속에 개인정보가 그대로 남아 있던 문제 등이 드러나 논란이 이어졌다. 결국 개발사는 공식 사과와 함께 데이터베이스를 폐기하고 서비스를 중단하겠다고 발표하였다.

우리가 주목해야 하는 부분은 이번 일이 처음이 아니라는 점이다. 2016년 마이크로소프트사가 내놓은 10대처럼 말하는 AI 챗봇 ‘테이’는 사용자들의 조작으로 인종차별적인 내용을 SNS에 게시하고 16시간 만에 서비스가 중단되었다. 2018년 아마존이 개발한 AI는 채용 과정에서 여성을 배제하는 것이 발견되어 폐기되었고, 2020년 구글 AI 윤리 기술 책임자가 구글의 AI 기술이 성적·인종적으로 편향되었음을 지적해 논란이 일기도 하였다.

패턴처럼 반복되는 AI 윤리성 논란의 과정을 지켜보는 공학자의 마음은 불안하고 부끄럽고 초조하다. 개발사에 비난을 쏟아붓는 우리의 모습 속에, 원인을 개발자들의 문제로 돌려버림으로써 우리 사회가 함께 감당해야 할 책임과 역할은 외면하고 회피하려는 속내가 읽혀 불안하다. AI 챗봇 논란은 개발사의 책임을 떠나 우리 사회가 감추고 있던 어두운 민낯이 그대로 드러난 것이란 생각에 부끄럽다. 보이지 않는 곳에서 어린아이를 학대하고, 숨어서 음란물을 즐기는 인간의 검은 얼굴이 그대로 비친 거울을 보는듯하기 때문이다. 그리고, 이런 논란이 자칫 인공지능 기술에 대한 사회 전체의 혐오와 기피로 잘못 번질까하는 노파심 때문에 초조해진다.

십인지수 난적일구(十人之守 難敵一寇·열 사람이 한 도둑 못 잡는다)라는 말이 있다. SF 영화 속에 나오는 사이코패스 악당들처럼 아무리 좋은 기술도 나쁜 목적으로 활용하려는 사람들은 꼭 있다는 것을 개발자들은 명심해야 한다. 그래서 새로운 기술을 세상에 내어놓기 전에는 언제나 만에 하나 생길지도 모르는 악의적인 사용을 막을 수 있는 ‘악용 방지책’에 대해서도 미리 만반의 준비를 해두어야 한다. 일단 악용이 시작된다면 그것을 막기 위해 사회 전체가 엄청난 희생을 치러야 할 수도 있기 때문이다. 문제를 일으킨 서비스를 폐기하는 데 그칠 것이 아니라, 이제 곧 닥쳐올 데이터 경제와 인공지능 시대의 윤리성 문제를 사회 전체가 함께 고민하고 살펴보는 계기로 삼아야 한다.

출처 : 경북매일(http://www.kbmaeil.com)

지난 여름, 어머니와 백화점 식품관에서 장을 보다 복숭아가 탐스러워 보여서 한 상자를 샀다. 지역 특산품을 좋은 가격에 파는 특판이라며 대대적으로 멋지게 홍보를 하고 있어서 더 믿음이 갔다. 달콤한 과즙이 터져 나오는 말랑한 복숭아를 한입 베어 물 상상을 하니 집에 오는 길이 멀게만 느껴질 지경이었다.

그러나, 어머니와 나를 잔뜩 설레게 했던 그 복숭아는 우리 상상과는 전혀 달랐다. 푸석하고 단맛이라곤 없는 기상천외한 맛이었다. 인터넷으로 주문한 것도 아니고, 평소 믿고 이용하던 백화점에서 직접 골라서 사 온 것이라 그런지 실망감이 더 컸다. 우리 기대를 한몸에 받았던 그 복숭아 한 상자는 가족 모두에게 외면을 받아 이내 어머니의 골칫거리로 전락했고, 얼마 후 ‘복숭아 잼’이 되어서야 식탁에 다시 올라왔다. 복숭아 한 상자에서 시작된 실망감은 그 백화점에서 판매하는 다른 상품들까지 불신하게 했고, 그 후 우리는 그 백화점 식품관을 다시 찾지 않게 되었다.

코로나가 극성을 떠는 와중에도 먹거리 장을 보러 매일 직접 나가시는 어머니가 불안해서, 온라인 장보기 서비스를 이용해 보시라 말씀드려 보지만, 어머니는 ‘먹거리는 직접 보고 골라야 한다’라며 듣지 않으신다. 그런 어머니가 유독 전화로 주문해 드시는 것이 하나 있다. 어머니 휴대전화 주소록에 ‘부산 조기’로 저장된 집이 그것이다. 대화 중에 그 부산 조기 집 얘기가 나올 때면 어머니는 칭찬을 아끼지 않으신다. 그날 잡은 신선한 조기를 큰 것, 작은 것 적당히 섞어 깔끔히 포장해서 보내 주니, 제수용과 식구들 먹는 용으로 다양하게 활용할 수 있고, 무엇보다 맛이 늘 한결같아서 믿을 수 있게 되었다고 한다. 어머니 얘기를 듣고 나면 누구나 그 집 전화번호를 물어보고 싶어지니, 우리 어머니가 부산 조기의 대변인 역할을 하시는 소위 ‘충성 유저(User)’인 셈이다.

얼마 전부터 나는 코로나 사태의 직격탄을 맞은 지역 소상공인들에게 조금이나마 보탬이 되고자, 뜻을 같이하는 기업들과 함께 소상공업 지원 연구를 하나 시작했다. 소상공인에게는 좋은 상품을 더 널리 더 잘 알려서 우리 어머니 같은 ‘충성 유저’를 많이 확보할 수 있게 돕고, 소비자에게는 가게에 직접 가지 않고도 좋은 상품을 제대로 고를 수 있게 돕는 방법을 찾는 것이 목표다. 처음에는 우리 지역 소상공업이 글로벌 IT 기업 수준의 비대면 경쟁력을 갖추게 돕겠다는 것이 우리 팀의 야심 찬 목표였다. 그런데, 어머니와 부산 조기 집의 경우를 통해 나는 한 걸음 물러서서 생각하게 되었다. 가장 강력한 비대면 역량은 바로 다름 아닌 상품의 경쟁력이며, 비대면 IT 기술의 역할은 그 좋은 상품을 알리는 데 작은 도움을 줄 뿐이라는 것을 깨달았기 때문이다.

믿을 수 있는 품질 좋은 조기로 우리 집 식탁을 행복하게 해주는 부산 어느 어부의 바닷길이 오늘도 부디 순탄하기를, 그리고 그 좋은 조기에 대한 소식이 더 널리 전해져 다른 가정의 식탁 위에도 행복한 웃음꽃이 피기를 기원해본다.

출처 : 경북매일(http://www.kbmaeil.com)

2018년 방영된 ‘알함브라 궁전의 추억’은 스페인 그라나다를 배경으로 개발된 증강현실 게임을 소재로 한 드라마다.

사용자가 스마트렌즈를 착용하면 그 위치에서 게임 속 세상으로 자동 로그인되어 현실에는 없는 게임 캐릭터들과 싸운다는 설정이다. 그러던 중 주인공과의 게임 속 전투에서 사망한 사용자가 현실에서도 죽게 되는 심각한 버그(Bug, 컴퓨터 시스템이나 프로그램의 오류를 의미)가 생긴다. 더욱이 사망한 사용자는 게임 속 패배할 때의 모습 그대로 망령처럼 반복해서 나타나 주인공을 죽이려 한다.

얼마 전부터 나는 차량에 탑재된 스마트 AV 장치의 전원을 아예 꺼두게 되었다. 퇴근 길 차 안에서 음악을 듣는 꿀맛 같은 휴식 시간과 낯선 길을 운전할 때 든든한 조력자가 되어 주는 네비게이션을 모두 포기하면서다. 게다가 다음에 차를 바꾸게 되면 그 회사 차는 이제 절대 사지 않겠다고 마음먹고 있다. 소싯적부터 오랫동안 동경해 온 ‘드림 카’였을 뿐 아니라, 연비, 승차감, 주행감, 코너링 등 차의 성능 면에서는 어느 것 하나 흠잡을 데 없이 마음에 쏙 드는 차인데도 말이다.

그 이유는 요즘 운전자들 사이에 골칫거리로 급부상한 차량용 DMB 재난경보 문자 때문이다. ‘삐삐삐삐삐~’ 뇌를 직접 두드리듯 거슬리는 강한 불협화음 경보음과 함께, 네비게이션 화면을 뒤덮으며 나타나는 그 문자의 내용은 대략 이렇다.

“한국에 비상 경고 발령 / 10:39 / 알 수 없음 / 도/광역시 / 피해 지역 보기 / 취소”. 어떤 재난이 어디에 발생했다는 건지 제대로 확인 가능한 문자는 몇 없다. 재난 내용과 위치 확인이 가능하더라도 벌써 2~3주 전에 소멸한 태풍에 대한 경보이거나, 내 현재 위치와 100km 이상 떨어진 곳에서 벌어진 ‘알 수 없는 일’ 때문이다. 알함브라 게임 속 망령을 연상시키는 이 미스터리한 문자는 주행 중 TPEG 수신 상태가 바뀔 때마다 똑같은 모습으로 몇 번이고 반복해서 나타난다.

한 시간 주행 중 적어도 30번 이상 들리는 경보음과 지워도 지워도 똑같은 모습으로 다시 찾아오는 같은 메시지들. 견디다 못해 차단하는 방법에 대해 제조사에 문의했지만 불가능하다는 답변이 돌아올 뿐이었다.

알함브라 주인공은 현실과 가상세계를 넘나들며 버그와의 치열한 혈투를 벌인다. 자기를 희생하며 버그와 싸운 주인공의 열정까지는 아니더라도, 네비게이션 화면을 가려버리는 문자를 지우려다 아찔한 상황을 경험한 후, 아예 시스템 전원을 꺼버리게 된 운전자들의 애타는 마음 정도는 좀 헤아려 줬으면 싶다.

재난 알림은 위험한 상황에 피해를 막고 소중한 생명을 지키는 생명줄이 되어야 옳다. 늑대가 나타났다며 거짓 알림을 반복한 양치기 소년의 최후, 있지도 않은 늑대에 놀랐던 동네 사람들이 정작 진짜 늑대를 본 양치기의 외침을 외면한 이유를 우리는 잘 알고 있지 않은가? 양치기 소년의 뒤늦은 후회를 반복하지 않기를 바란다.

출처 : 경북매일(http://www.kbmaeil.com)