Das australische Unternehmen Apate.ai nutzt Tausende KI-Agenten, die sich als potenzielle Opfer von Betrugsversuchen ausgeben und anschließend über Telefonanrufe, Nachrichten, E-Mails, Phishing-Links und soziale Netzwerke mit den Betrügern interagieren. Ziel ist nicht nur, die Zeit der Betrüger zu verschwenden, sondern auch operative Informationen zu sammeln, die Banken, Telekommunikationsunternehmen, Regierungsbehörden und Versorgungsunternehmen zur Verbesserung ihrer Systeme zur Betrugsbekämpfung nutzen können.
Apate zufolge hat seine Flotte bislang 2,5 Millionen Gespräche geführt, was einer Verschwendung von 17 Jahren der Zeit von Betrügern entspricht. Während dieser Interaktionen versuchen die Agenten, Bankkontonummern, Kryptowährungs-Wallets, Telefonnummern, bösartige Websites und die von den Betrügern imitierten Marken aufzudecken sowie Einzelheiten zu den von ihnen betriebenen Kampagnen zu ermitteln.
Von Zeitverschwendung zur Beweissammlung
Die Agenten können Persönlichkeiten mit unterschiedlichem Alter, Geschlecht, Akzent und unterschiedlicher Sprache verkörpern, wodurch sie den Betrüger länger im Gespräch halten können. Kunden können ihnen außerdem bestimmte Aufgaben übertragen, etwa die Beschaffung einer Bankkontonummer oder der Adresse einer Kryptowährungs-Wallet. Das Unternehmen stellt seinen Kunden ein Analyseportal zur Verfügung, das Informationen über Betrugsversuche anzeigt, die sich gegen ihre Nutzer, Mitarbeiter, Marken oder Produkte richten.
Apate stützt sich auf fortschrittliche Modelle sowie auf weitere Modelle, die das Unternehmen intern angepasst hat. Es trainiert seine Modelle anhand der Gespräche, die die Agenten mit Betrügern führen, sowie anhand von Forschungsarbeiten, die der Gründer und CEO Dali Kaafar an der Macquarie University durchgeführt hat.
Was ändert sich in der Praxis?
Der Ansatz konzentriert sich darauf, von der nachträglichen Reaktion zur Sammlung von Indikatoren vor dem Eintreten eines Schadens überzugehen. Brad Joffe, Mitgründer und Chief Commercial Officer des Unternehmens, zufolge hindert das Sperren von Telefonnummern durch Telekommunikationsunternehmen Betrüger nicht daran, neue Nummern zu verwenden. Auch die Überwachung von Banktransaktionen kann erst einsetzen, nachdem der Betrüger den Kunden erreicht hat. Daher versucht Apate, die Informationen direkt aus den Gesprächen mit den Betrügern zu gewinnen.
Zu den Kunden zählen Commonwealth Bank of Australia und TPG Telecom sowie Versorgungsunternehmen, weitere Telekommunikationsunternehmen und Regierungsbehörden. Das Unternehmen erklärte, TPG habe rund 590.000 Anrufe an seine Agenten weitergeleitet. Bei Commonwealth sei ein Rückgang der öffentlich gemeldeten Betrugsverluste um 76 Prozent verzeichnet worden, während eine nicht namentlich genannte australische Bank die externen Agenten eingesetzt habe, um 22 Betrugskampagnen zu stören.
Finanzierung und internationale Expansion
Apate wurde 2024 auf Grundlage von Forschungsarbeiten gegründet, die an der Macquarie University in Sydney durchgeführt worden waren. Die Idee für das Unternehmen entstand nach einem betrügerischen Anruf, bei dem Kaafar den Betrüger 44 Minuten lang in der Leitung hielt. Anschließend entwickelte sie sich zu Forschungsarbeiten im Bereich maschinelles Lernen und natürliche Sprachverarbeitung, um Gesprächsinhalte zu extrahieren und die Erkennung und Verhinderung von Betrug zu verbessern.
Das Unternehmen nahm im August in einer Seed-Finanzierungsrunde 8,15 Millionen US-Dollar von Lobby Capital, OIF Ventures, Investible, Concept Ventures und Baobab Ventures ein. Joffe zufolge belief sich die Gesamtfinanzierung auf knapp 10 Millionen US-Dollar. Das Unternehmen, das 20 Mitarbeiter beschäftigt, beabsichtigt, die jüngste Finanzierungsrunde zur Produktentwicklung und internationalen Expansion zu nutzen, einschließlich der Eröffnung eines Büros in London und des Ausbaus seiner Präsenz in den Vereinigten Staaten.
Der Dienst kommt zu einem Zeitpunkt, an dem die Quelle darauf hinwies, dass das US-amerikanische Federal Bureau of Investigation (FBI) im Jahr 2025 mehr als 22.000 Beschwerden im Zusammenhang mit Straftaten erhalten habe, bei denen künstliche Intelligenz eingesetzt wurde. Die Verluste beliefen sich demnach auf nahezu 893 Millionen US-Dollar, davon mehr als 632 Millionen US-Dollar im Zusammenhang mit Anlagebetrug. Die veröffentlichten Ergebnisse zur Verringerung der Verluste und zur Störung von Kampagnen stammen weiterhin vom Unternehmen. Die Quelle legte zudem keine unabhängigen Einzelheiten zur Messmethodik oder zu den Verfahren für den Umgang mit den rechtlichen und betrieblichen Risiken der automatisierten Interaktion mit Betrügern vor.