안타까운 검색 상태는 AI 시대의 불길한 징조

최근 토요일 밤, 지루한 기술 담당 임원이 듣던 인공 지능 앱을 가지고 놀기로 결정했습니다. 매튜(Matthew)라고 부를 이 임원은 대부분의 사람들이 인터넷에서 물건을 찾는 방식을 시작했습니다. 그는 노트북을 열고 Google에 AI 회사 이름인 Midjourney를 입력했습니다. 그는 상위 결과를 클릭하고 몇 번 더 클릭한 후 앱을 다운로드하고 설치했습니다.

또는 그것이 그가 했다고 생각한 것입니다. 그가 실제로 클릭한 것은 Google이 Midjourney로 위장한 사기꾼에게 무의식적으로 판매한 광고였습니다. 자신의 컴퓨터에 접속한 사람이 여전히 자신의 개인 데이터를 갖고 있을지 걱정되어 익명을 요청한 매튜는 피해자의 컴퓨터를 샅샅이 뒤져 사용자 이름과 비밀번호를 찾아 해커에게 전송하는 악성 코드 유형인 '인포스틸러'를 실수로 설치했습니다. 오로라(Aurora)로 알려진 이 사람은 자신의 암호화폐 지갑, 소셜 미디어 계정에 액세스했으며 그 외에는 무엇이 있는지 아는 사람이 없습니다. 해커들은 Matthew의 Coinbase 지갑에 있는 수십만 달러의 암호화폐 콘텐츠를 그의 은행이 아닌 은행으로 옮겼습니다. "그것은 당신의 인생 전체입니다"라고 매튜는 말합니다. "당신은 너무 벌거벗고 겁이 나고 취약하다고 느낍니다."

매튜는 좀 더 조심하지 않은 것에 대해 자신을 비난하지만, 명백한 사기 행위가 결과 페이지 상단에 표시되도록 허용한 것에 대해서도 Google을 비난합니다. Google 검색 결과 링크가 완벽하게 객관적이고 신뢰할 수 있다는 느낌을 주면서 누군가가 링크를 거기에 넣기 위해 비용을 지불했기 때문에 어떤 링크가 있는지 알기 어렵게 만드는 디자인 선택으로 인해 실패가 더욱 확대되었습니다. (구글은 광고에 '스폰서'라는 라벨을 붙이지만 라벨을 놓치기 쉽습니다.)

Matthew의 경험은 회사가 검색 시장을 장악하는 데 드는 비용과 사기를 억제할 수 없는 명백한 무능력에 대한 오랜 의문을 제기합니다. 그리고 이는 Google이 실험적인(그리고 때로는 사실적으로 문제가 있는) 챗봇 검색 엔진에서 사기와 잘못된 정보를 차단하는 데 예상보다 더 어려운 시간을 보내고 있음을 시사합니다. 알려진 바와 같이 Google Bard에서는 회사가 제공하는 정보의 출처를 결정하는 것이 훨씬 더 어려울 수 있습니다.

7월 말에 Matthew가 클릭한 광고는 사라졌지만 Google 검색 결과 상단 근처에는 여전히 가짜 Midjourney 웹사이트가 표시되었습니다. "결과에 여전히 나타난다는 사실은 비양심적입니다."라고 그는 말합니다. "나는 그들을 믿었지만 그것은 잘못된 믿음이었습니다." Bloomberg Businessweek에서 문의한 직후 Google에서 가짜 Midjourney 목록이 사라졌습니다. 구글은 가짜 목록에 대해 논평을 거부했지만 인간 검토자와 소프트웨어를 혼합하여 이러한 콘텐츠를 제거하는 것은 금지되어 있다고 밝혔습니다. 또한 지난해 회사 정책을 위반한 광고 52억 개를 삭제했다고 밝혔습니다. 회사 대변인인 Ned Adriance는 "우리의 보호 장치를 우회하려는 악의적인 행위자가 있지만 Google 시스템은 고품질 정보를 표시하고 스팸 및 악의적인 행동에 맞서 싸우는 데 매우 효과적입니다."라고 말합니다.

Google이 Matthew에게 보여준 광고가 악의적이라는 것을 알아내기 위해서는 정교한 사기 방지 시스템이 필요하지 않았습니다. 목록에는 Midjourney의 것으로 알려진 웹사이트가 표시되어 있었지만 회사 이름의 문자 "o"를 잘 알려진 사기 수법인 0으로 대체했습니다. Matthew가 클릭하기 전에 Reddit에는 사용자에게 이 사실을 경고하는 스레드가 있었고, 코네티컷주 민주당 상원 의원 Richard Blumenthal은 2022년 서한에서 Google이 "위험한 사기, 사칭, 사이버 범죄를 해결하지 못했다"고 비난했습니다. 게다가 Midjourney에는 다운로드 가능한 앱도 없습니다. 채팅 앱인 Discord를 통해 액세스할 수 있습니다.

Google의 역사 전반에 걸쳐 유사한 예가 주기적으로 나타났습니다. 예를 들어, 7월 말 디지털 디자이너인 Shmuli Evers는 사기꾼들이 Google을 속여 Delta Air Lines Inc. 및 기타 대형 항공사에 가짜 티켓을 판매하도록 가짜 전화번호를 제공했다는 사실을 발견했습니다. Google은 Evers가 이에 대해 트윗한 후 오류를 수정했지만 비평가들은 회사가 유사한 전화번호 사기에 대해 오랫동안 알고 있었다고 말합니다. 디지털 및 검색 마케팅에 대해 기업에 조언을 제공하는 Near Media의 공동 창업자인 Mike Blumenthal은 "이러한 하이재킹은 지난 15년 동안 매년 발생했습니다."라고 말합니다. "구글은 오랫동안 이러한 사기로 인한 비용을 사회에 떠넘겨 왔습니다."