Wenn Sie diesen Anruf erhalten, sagen Sie alles andere als „Ja“.

Jun 09, 2023

Es ist der hinterhältigste automatisierte Betrug, den ich je entdeckt habe, und die Tatsache, dass ich mehr als einmal darauf hereingefallen bin, zeigt, wie erfolgreich er sein kann.

Das Telefon klingelt. Sie nehmen den Hörer ab und antworten mit „Hallo“. Es herrscht kurze Stille, dann sagt eine Frauenstimme: „Oh, hallo!“ und lacht verlegen. „Tut mir leid, ich hatte ein kleines Problem mit meinem Headset.“

Ich habe diesen Anruf in den letzten Wochen mehrmals erhalten, zu Hause und am Arbeitsplatz, und jedes Mal bin ich von der sachlichen Offenheit begeistert, sodass ich länger am Telefon bleibe, als ich es normalerweise bei einem Automaten tun würde oder Telefonmarketing-Anruf. . Erst wenn ich merke, dass ich das Gleiche schon einmal gehört habe, verstehe ich, dass ich eine Aufnahme höre.

Hierbei handelt es sich um einen hochentwickelten neuen Betrug, der als „Können Sie mich hören?“-System bekannt ist und bei dem es darum geht, Menschen dazu zu bringen, „Ja“ zu sagen, und diese Aussage dann zu nutzen, um sie für etwas anzumelden, das sie nicht bestellt haben.

Es ist auch ein Indikator dafür, was wir in Zukunft von Betrügern und Telemarketern erwarten können, da robotergestützte „Gesprächsagenten“ oder Chatbots eine immer wichtigere Rolle bei der Interaktion mit Menschen spielen.

Ich habe mit einigen Experten auf diesem Gebiet gesprochen und sie alle weisen darauf hin, dass die Technologie der natürlichen Sprache so schnelle Fortschritte macht, dass wir in ein paar Jahren kaum noch erkennen können, ob wir mit einem Menschen oder einer Maschine sprechen. „An allen Fronten der Entwicklung von Konversationsagenten wird großer Wert darauf gelegt, sie kontaktfreudiger zu machen“, sagte Marilyn Walker, Informatikprofessorin an der UC Santa Cruz mit jahrzehntelanger Erfahrung in der Verarbeitung natürlicher Sprache. „All dies bringt uns der künstlichen Intelligenz sehr nahe“, sagte er.

Der „Kannst du mich hören?“-Betrug Er scheint nicht über dieses Maß an technischen Fähigkeiten zu verfügen, aber er zeigt eine listige Weisheit darin, wie man Menschen manipuliert.

Dan Weld, Professor für Informatik und Ingenieurwesen an der University of Washington, betonte, dass die in den Anrufen verwendeten Techniken „sorgfältige Ingenieurskunst mit einem Verständnis für die menschliche Dynamik von Gesprächen und dafür, was natürlich klingt“ zeugen. Mit anderen Worten: Sie wissen erst, dass es sich um einen Robocall handelt, wenn es zu spät ist.

Während der Betrug weitergeht, wird die aufgezeichnete Stimme die Möglichkeit eines Urlaubs- oder Kreuzfahrtpakets oder vielleicht einer Produktgarantie eröffnen. Sie werden gefragt, ob Sie einige Fragen beantworten könnten, oder Sie wiederholen, dass Ihr Headset Probleme hat, und sagen: „Können Sie mich hören?“ Sag nicht ja.

Polizeibehörden im ganzen Land haben kürzlich gewarnt, dass eine bejahende Antwort so manipuliert werden könnte, dass es so aussieht, als ob eine Genehmigung für einen Kauf oder eine Transaktion erteilt wurde. Bisher wurden nicht viele Verluste gemeldet, aber ein Mann im Bundesstaat Washington soll 100 US-Dollar verloren haben. Ein aufgezeichnetes „Ja“ könnte verwendet werden, um Verbrauchern, die sich beschweren, die Rückerstattung zu verweigern.

„Wenn jemand anruft und fragt: „Können Sie mich hören?“, sagen Sie nicht „Ja“, warnte das Better Business Bureau. „Legen Sie einfach auf. Betrüger ändern ihre Taktik, wenn die Öffentlichkeit von ihnen erfährt. Seien Sie also auf der Hut vor anderen potenziellen Fragen, die eine bejahende Antwort erfordern.“

Walker, die Expertin der UC Santa Cruz, bringt Computern seit den 1980er Jahren das Sprechen bei, als sie als Forscherin am Natural Language Project der Hewlett Packard Laboratories in Palo Alto arbeitete. Er arbeitete auch in den Laboratorien von Mitsubishi Electric Research in Cambridge, Massachusetts, und bei AT&T Labs in New Jersey.

Sprechende Maschinen werden seit Jahren von automatisierten Tafeln verkörpert, die die meisten Verbraucher in den Wahnsinn treiben. Walker argumentiert jedoch, dass wir jetzt beispielsweise in Siri von Apple und Alexa von Amazon die nächste Generation der Sprachtechnologie sehen, Geräte, die auf die Anfragen ihrer Benutzer reagieren und bis zu einem gewissen Grad den Eindruck einer Konversation erwecken können.

Der nächste Schritt, sagte er, werden Computer sein, die auf Sprachbefehle reagieren, um mehrere Aufgaben auf verschiedenen Websites oder Plattformen auszuführen, beispielsweise die Reservierung von Flugsitzen, einem Hotel oder einem Mietwagen, ohne dass ein Mensch auf den Bildschirm schauen oder ihn berühren muss eine Tastatur. „Konversationsagenten wechseln heute nahtlos zwischen mehreren Aufgaben“, fügte Walker hinzu.

Der Experte räumte ein, dass diese Technologie mit zunehmender Verbesserung und zunehmender Verbreitung sicherlich von Telemarketern und Betrügern übernommen wird, um zu versuchen, Menschen zu manipulieren, ihnen vorzugaukeln, dass sie mit einer realen Person sprechen, und ihnen so ein Verkaufsangebot zuzumuten etwas Glaubwürdigeres. „Das liegt eindeutig im Rahmen der Möglichkeiten“, sagte Walker und fügte hinzu, dass Maschinen, da sie menschlicher klingen, beigebracht werden können, Gespräche mit gelegentlichen Zweifeln („mmm…“, „uh-huh“) oder im richtigen Moment mit Lachen zu untermauern . . Sie werden bald emotionsähnliche Laute übermitteln und ihren Stimmton an den Kontext der Diskussion anpassen. „Wir arbeiten an all dem“, bemerkte er.

Genauer gesagt leitet der Lehrer ein Team von Doktoranden, das an der ersten Ausgabe des Alexa Award teilnimmt, einer Auszeichnung, die Amazon für die Universität vergibt, die einen sozialen Roboter oder „Socialbot“ entwickelt, der in der Lage ist, eine echte Konversation zu führen.

Jedes der 12 gesponserten Teams hat von Amazon 100.000 US-Dollar zur Finanzierung seiner Arbeit erhalten. Die Gruppe, die den leistungsstärksten Roboter entwickelt, gewinnt 500.000 US-Dollar, und eine zusätzliche Million US-Dollar geht an die Universität des Gewinnerteams, wenn ihr Socialbot in der Lage ist, sich 20 Minuten lang „kohärent und ansprechend mit Menschen über beliebte Themen und Ereignisse zu unterhalten“. ”

Natürlich werden alle technischen Fortschritte für zukünftige Versionen von Alexa berücksichtigt.

Ich habe Amazon-Sprecher Art Pettigrue gefragt, ob das ultimative Ziel des Wettbewerbs darin besteht, eine Maschine zu entwickeln, die wie HAL 9000 in „2001“ sprechen kann, allerdings ohne die mörderischen Tendenzen. Der Beamte lehnte es ab, mit seiner Antwort zu weit zu gehen, erklärte jedoch: „Wir befinden uns in vielen Bereichen der Technologie an einem Wendepunkt. „Es ist ein goldenes Zeitalter des maschinellen Lernens und der künstlichen Intelligenz“, sagte er. „Wir sind noch weit davon entfernt, dass Maschinen Dinge so tun wie Menschen, aber wir lösen jeden Tag sehr komplexe Probleme.“

Das heißt: Glaubst du, das „Kannst du mich hören?“ Ist es verdreht? Seien Sie gespannt auf das, was in der Zukunft kommt.

Übersetzung: Valeria Agis

Um diese Geschichte auf Englisch zu lesen, klicken Sie hier