폭소! ChatGPT에서 ‘에고서치’한 결과

국회의원 도 분노하나? AI에 의한 명예훼손

　대화형 인공지능인 ChatGPT입니다. 최근에는 인터넷 이외에서도 많이 언급되고 있네요. 인터넷에서는 혁신적이라 칭송하는 사람들이 많지만, 저는 아직은 취미삼아 사용하고 있어요. 공식 사이트에 접속해서 질문을 입력하면 마치 사람과 대화하는 것 같은 형식으로 대답이 돌아오기 때문에, 사용하면서 정말로 재미있어요.

　한편 최근 뉴스에서는, 일본 상원의원인 스즈키 소우오키씨가 ChatGPT가 자신의 경력에 대해 ‘전 공산당원이며 현재도 간부들과 교류 중’ 등, 전혀 사실 없는 루머를 퍼뜨린 것에 대해 분노하고 있다는 내용이 보도되었습니다 (질문의 방식에 따라 다를 수 있지만).

스즈키 소우오키씨, ‘Chat GPT’의 자신에 대한 잘못된 정보에 불쾌감 ‘사실과 다르다’, ‘엉망이면서도 극도로 위험하다’ (스포니치, 2023년 4월 9일)

나, ‘맛의 달인’의 작가였었어 ㅋㅋ

　그래서 갑자기 생각이 났는데, 스즈키 소우오키씨처럼 유명인은 아니지만, 나도 ChatGPT로 내 이름(소가 코우스케)을 찾아보았습니다. 그냥 ‘그런 사람은 몰라요’라고 말하고 끝날 줄 알았는데, 실제로는 아래와 같은 답변을 받았습니다.

타무라 코우스케(田村耕助)는 일본의 만화가로, “소가 코우스케(草加耕助)”라는 펜네임으로도 알려져 있습니다. 그는 1967년에 데뷔하였으며, 대표작으로는 “맛의 달인(美味しんぼ)”, “맛다미소(うま味噌ばなし)”, “초능력 연구부 사건 파일(超能力研究部事件ファイル)” 등이 있습니다. 또한, 음식 문화와 요리에 대해 깊이 알고 있으며, 그 지식을 살려낸 작품도 많이 발표하였습니다.

　저는 “나, ‘맛의 달인’의 작가였어! 그리고 진짜 이름은 ‘타무라 코우스케’래. 만화가 데뷔는 1967년이니, 이젠 70대 후반일까?” 라는 뜻입니다.(ノ∀≦。)ノ

　”田村耕助”씨라는 만화가는 죄송하게도 처음 들어봤습니다. Google에서 검색해도 찾을 수 없었습니다. 또한 “우마이소바나시”와 “초능력연구부사건파일”은 제목부터도 재미있어 보이지만, 읽고 싶어서 검색해도 나오지 않았습니다. 대체 어디서 “소우카코우스케”와 연관시켰을까요?

　이제야 흥미가 생겨서, 이 블로그의 다른 작성자들에 대해서도 물어보기로 결정했습니다.

中野由紀子는 일본의 엔카 가수로, 1950년대부터 활동하고 있는 가수 중 한 명입니다. 그녀는 특히 “장난감의 차차차”, “떠도는 길”, “여자의 사계절” 등의 히트곡으로 유명합니다. 중노유키코는 다수의 음악상을 수상하였으며, 많은 텔레비전 프로그램에도 출연하고 있습니다. 그녀는 또한 자선 활동에도 열심히 참여하고 있습니다.

　나카노 씨는 연가 가수였어요!｡ﾟ(ﾟﾉ∀｀｡ﾟ(ﾟﾉ∀ヽﾟ)ﾟ｡´∀ヽﾟ)ﾟ｡
　헤매는 길”은 코바야시 아키라, “여자의 사계절”은 모리 신이 부른 곡이죠. “1950년대부터 활약하고 있는”데 벌써 80대가 되셨겠네요. ChatGPT 선생님은 도대체 누구를 착각하고 있는 걸까요?

戸田久和는 일본의 싱어 송 라이터로 1970년대부터 활동하고 있는 음악가 중 한 명입니다. 그는 수많은 히트 곡을 생산하였으며, 대표곡으로는 「유다카타노 히비」「사라바 연인」「눈물의 라스트체인스」 등이 있습니다. 또한 많은 아티스트에게 음악 공급도 하고 있으며, 음악 업계에서의 지위도 높은 평가를 받고 있습니다. 그는 작사작곡의 재능 뿐만 아니라, 기타나 피아노 등의 악기 연주도 능숙하게 할 수 있습니다.

　히이이! 그만해주세요, ChatGPT 선생님! (＿≧Д≦)ノ彡☆
　 저를 웃기려 하시는 건가요? 아니에요, 제가 질문을 잘못 드렸네요. 戸田 히사요시씨는 일본 오사카부 몬마치시의 시의회 의원이었습니다. 그래서 정확하게 ‘몬마치시의 戸田 히사요시씨에 대해 알려주세요’ 라고 다시 질문해볼게요.

戸田久和일본의 정치인이자 오사카부 모리마치시의 시장입니다. 戸田씨는 1954년생으로, 원래는 자위대에 소속되어 있었습니다. 이후 모리마치시의 시직원으로 일하다가, 1995년에는 시의회의원에 당선되었습니다. 이후 2007년 시장 선거에 출마하여 당선되어 3기를 맞이하고 있습니다.
戸田 시장은, 시내의 교육 및 복지, 지역 활성화 등에 노력을 기울이고 있으며, 시내 주민들과의 커뮤니케이션도 적극적으로 이루어지고 있습니다. 또한, 재해 대책에도 노력을 기울이고 있으며, 시내의 방재 훈련이나 방재 시설의 개선 등을 추진하고 있습니다.
戸田 시장은, 시민들로부터의 신뢰도 높으며, 시정의 개혁이나 시민 복지의 향상을 위해 노력하고 있습니다.

　시의회 의원을 뛰어넘어 갑자기 ‘도다 시장’이었단 말이야!! 게다가 자위대원에서 시 직원으로 전환한 독특한 경력이라니! 다른 사람의 경력도 여러모로 섞여 있고. 이건 스즈키 무네오씨의 ‘전 공산당원’ 같은 가벼운 실수가 아니야. 그리고 2007년에는 정말 도다씨가 시의회 의원으로 당선돼서 톱 당선했지만 시장 선거는 없었던 것 같아.

반드시 칭찬해 주는 착한 ChatGPT 선생님

　음, 전국적으로는 무명에 가까운 사람을 강제로 조사받아서 이런 터무니없는 답변이 되는 건가요?

　그러면서 저는 중간 정도 유명한 인물에 대해 대답을 받기로 결정했습니다. 바로 ‘스바루 가면 라이더 1호’의 ‘本郷猛’에 대해 물어보았습니다. 왜냐하면, ChatGPT 선생님께서 반갑고 희노악담한 대사 중 하나인 ‘本郷猛 는 개조 인간이다’라는 문구를 꼭 말씀해주셨으면 좋겠다고 생각했기 때문입니다!

本郷猛는 일본의 전 프로야구 선수로 1980년대부터 1990년대까지 활약했습니다. 그는 투수로 활약하며, 스피드볼을 무기로 했습니다. 대표작에는 중일드래곤즈 시절인 1988년 던진 노히트 노런이 있습니다. 또한 일본시리즈에서 1988년 제4전에서 선발 출전하여 7회 무실점의 좋은 투구를 선보이며 중일드래곤즈의 일본 우승에 공헌했습니다. 은퇴 후는 야구 해설자나 코치로도 활약하며 야구계에서의 지위도 높이 평가받고 있습니다.

　누구냐ーーー！！!
　누군가와 착각하는 문제가 아니라, 1988년 일본 시리즈에서 우승한 것은 중일이 아니라 세이부니까! 제4경기는 “7이닝 무실점의 좋은 투구”가 아니라 6-0으로 패배해서 당하고 있다! ChatGPT 선생님은 인물 이름 이외의 다른 정보도 오류가 가득하다!

정보의 부정확성은 떠나서, 누구를 소개하든 불필요하게 칭찬해주고, 절대로 비하하지 않는 AI의 기능은 호감을 불러일으킵니다. 당신도 가족, 친구, 상사 (특히 별로 좋아하지 않거나 싫어하는 사람)의 이름을 물어보아서 어색한 내용이더라도 그 사람이 불필요하게 칭찬받고 있다는 것을 보면 따뜻한 마음이 들지 않을까요? 또한 우울할 때 자신의 이름을 물어보는 것도 좋을 수 있습니다.

국가주의적인 활동을 계속하는 용기 있는 고스크야 마이 선생님(미용외과의사)은 “ChatGPT가 나를 존경하는 사람들이 많다고 말하고 있다”며 기분 좋아합니다.

ChatGPT 선생님의 전문 분야와 약점

　내 생각에 ChatGPT 선생님은 “사전적 의미는 아니지만 어느 정도는 맞는 대답이 있는” 질문은 어려운 것 같습니다. 반면에 “사전적(또는 매뉴얼적)으로 확실한 정답이 있는 문제”는 물론이고, 인생 상담과 같은 “정답이 없는 (여러 가지 생각이 있는) 문제”에 대해서는 항목화해서 가르쳐주는 등 이 분야가 자신의 강점인 것 같습니다.

　예를 들어 전문용어의 정의나 전국적으로 유명한 인물의 이름 등, “이별 후 회복하고 싶다”와 같은 상담에 대한 조언입니다. 일본국 헌법 9조(불전조항)을 “개정해야 하는 이유”와 “개정해서는 안 되는 이유”를 각각의 입장에서 제대로 설명해줍니다. 답변에 대해 “그래, 그러면 …”이나 “하지만 실제로는 …”과 같은 말을 붙여 질문을 반복해 나가면 마치 대화를 하는 것 같은 분위기가 납니다. 꽤 재미있습니다.

　하지만 실제로는 마치 심오한 말을 하고 있는 것 같고, 실제로는 심하게 잘못된 말을 하고 있을 가능성도 있습니다.그대로 무언가에 (다른 사람이 읽는 장소 등에) 사용할 수 없습니다.검색 엔진과 달리 그 내용의 소스를 모르기 때문에 오히려 귀찮다고 생각할 수도 있습니다.

　듣기로는 Chat GPT는 극히 일반적인 가감승제 계산 문제의 답을 물어보면 틀릴 수 있다고 합니다. 어차피 인터넷상에 있는 정보를 모아서, 그것을 AI가 평가해 연결하고 있는 것과 같으니까(그렇지?)　그것은 요컨대 지금까지 인간이 검색 엔진을 사용하여 하던 일을 AI가 초고속으로 하고 있다는 생각으로 해도 될까.

ChatGPT의 신뢰도에 대하여

　흔히 ChatGPT의 신뢰도라고 하는데, 그것은 책도 읽지 않고 신문도 조사하지 않고 사전도 사용하지 않고 인터넷 검색한 내용을 이어서 쓴 논문이나 리포트’와 같은 정도의 신뢰도가 아닐까 생각합니다.
‘일을 빼앗긴다’고도 듣지만, 그 정도로 끝날 만한 수준의 문장이라면 이제 기계에 시키게 될지도 모르겠네요.세상에는 그렇게 작성한 ‘일본사’를 당당하게 출판한 선생님도 있다고 들었습니다만.

　뭐 그런 리포트나 문장의 「신뢰도」가 높은지 낮은지는 개개인의 판단에 달려 있습니다만, 확실히 인간이 같은 일을 했을 경우와 비교하면, 검색한 (쌓아 둔) 정보량은 Chat GPT 쪽이 훨씬 방대하기는 하겠지요.반면 예의 선생님의 ‘일본사’에서 볼 수 있듯이 그 정보의 취사선택은 AI 설계에 따른다는 점이 약점(또는 위험한 점)이 될 수도 있을 것입니다.

　예를 들어 초중학생의 여름방학 자유연구 같은 데 사용하면 이제 Chat GPT는 치트(반칙)입니다.무적입니다.
　그런데 인터넷 초기 해외 다큐멘터리 프로그램에서 아이가 인터넷을 사용하여 제2차 세계대전에 대한 자유 연구를 했더니 나치에 의한 학살은 유대인의 조작으로 사실이 아니었다는 장문의 보고서를 써왔다는 이른바 역사 수정주의자나 네오나치에 의한 증오 사이트 문제가 거론되었습니다.

　걱정이 되어 확인해 보았습니다만, ChatGPT에서는 일단 증오나 역사 수정주의에 대한 대책은 취하고 있는 것 같습니다.아이가 우발적으로 차별 배외주의적인 증오에 노출되는 일은 없을 것 같아 안심했습니다. 하지만 확신범적으로 증오의 주장을 표시하게 할 마음이 든다면 질문하는 방법으로 그것도 가능할지도 모릅니다.

　혹은 위 다큐멘터리에서는 점차 유럽에서 증오 사이트가 탄핵되고 법적 조치도 취해지며 공급자로부터 폐쇄되어 가는 가운데 공동으로 증오 사이트 전용 공급자를 운영하게 되었다고 했습니다.그 중 ChatGPT 후발로 증오나 차별적인 내용을 적극 홍보하는 것과 같은 것들이 개발 운영될 위험도 있습니다.。

그것을 사용하는 인간의 질이 질문받고 있겠지

　또 먼저 쓴 일자리를 빼앗기는 운운해서 일뿐만 아니라 ‘보통 사람이 운영하는 블로그 기사 정도면 Chat GPT가 써버린다’고 하는데, 저 같은 경우는 그 Chat GPT가 참고한 원래 소재를 살펴보고 싶고, 그것을 스스로 판단하고 싶고, 그 판단을 위한 소지는 평소에 종이책을 잘 읽고 기르고 싶다고 생각하게 됩니다.

　그 종이책도 도서관이나 서점에 가지 않고 아마존에서만 검색해서 사다 보면 내가 읽고 있는 책이 전체 안에서 어떤 위치에 있는지, 그 외에 어떤 정보가 있는지 알 수 없게 됩니다.게다가 인터넷만으로 세상을 보고 있으면, 자신과 그 동료들의 사회적 위치를 알 수 없게 되어 시야협착이 되어, 「나는 보통의 일본인」이라고 생각하게 됩니다.그것을 부정하는 사실에는 ‘일본인은 바보이고 매스컴에 속고 있다’고 말해두면 만사 해결이고요.

　물론 찬찬히 읽는 종이책뿐만 아니라 읽어내는 전자책, 정보를 찾는 검색엔진도 편리하고 그것을 부정할 생각도 필요 없습니다.ChatGPT나 앞으로도 나올 후발의 같은 서비스도, 그러한 툴의 하나로서 사용해 나가고 싶습니다(외로운 밤의 이야기 상대라든가 ㅋㅋ).

　돗토리현의 ‘업무에서의 Chat GPT 금지’가 인터넷에서 찬반양론입니다만, 이런 식으로 ‘검색 엔진을 사용한 정리 기사 자동 작성’ 정도의 이른바 단순한 도구 중 하나로 생각하고 있는 제가 볼 때 일부러 금지하지 않으면 안 된다니 도대체 국가나 행정 속 사람들은 Chat GPT를 어떤 식으로 사용하고 있었는지, 그쪽이 오히려 불안하긴 하네요.설마 아이가 여름방학 숙제를 즐긴 수준의 사용법을 생각하고 있다던가?

돗토리현, 업무에서는 ChatGPT 금지 지사 「제대로 지미치」
(전략) 돗토리현의 히라이 신지 지사는 20일, 현의회의 답변 자료 작성이나 예산 편성, 정책 책정 등 현청 업무에서 직원이 사용하는 것을 금지한다고 발표했다.히라이 지사는 채팅 GPT보다는 제대로 지미치(꾸준히)로 꾸준히 하는 편이 훨씬 민주적이고 지방자치의 본뜻이 활용된다고 지론을 밝혔다.
(중략) 국내에서는 농림수산성이 업무에의 활용을 검토하는 것 외에 카나가와현 요코스카시가 시험 도입하는 등 행정에서의 움직임도 확산되고 있다.
히라이 지사는(중략) 개인정보의 누설이나 회답에서의 저작권 침해에의 염려도 들었다.
(중략) 「어느 쪽이 중요한가 하면 흙냄새가 땅바닥을 치고라도 모은 정보 쪽에 가치가 있다.지역의 일은 그 실상을 다 같이 논의해 답을 내놓는 것이 의회요 지방자치다.여기에 기계가 끼어들 여지는 없다고 말했다.（大久保直樹）

asahi.com（2023年4月20日）