OpenAI geht gegen ChatGPT-Betrüger vor

OpenAI hat klargestellt, dass sein Flaggschiff-KI-Dienst ChatGPT nicht für böswillige Zwecke gedacht ist.

Das Unternehmen hat einen Bericht veröffentlicht, in dem es detailliert darlegt, dass es die Trends bei der Nutzung seiner Plattform durch Kriminelle beobachtet hat, während diese immer beliebter wird. OpenAI gab an, Dutzende Konten wegen des Verdachts gelöscht zu haben, ChatGPT auf unbefugte Weise zu verwenden, etwa zum „Debuggen von Code zur Generierung von Inhalten zur Veröffentlichung auf verschiedenen Vertriebsplattformen“.

Das Unternehmen hat außerdem kürzlich bekannt gegeben, dass es einen Meilenstein von 400 Millionen aktiven Nutzern pro Woche erreicht hat. Das Unternehmen erläuterte, dass seine Nutzerzahl in weniger als drei Monaten um mehr als 100 Millionen gestiegen sei, da immer mehr Unternehmen und Entwickler seine Tools nutzen. ChatGPT ist jedoch auch ein kostenloser Dienst, auf den weltweit zugegriffen werden kann. Da die moralischen und ethischen Aspekte seiner Funktionen seit langem in Frage gestellt sind, musste sich OpenAI mit der Tatsache abfinden, dass es Entitäten gibt, die Hintergedanken für die Plattform haben.

„Die Richtlinien von OpenAI verbieten strengstens die Verwendung der Ausgabe unserer Tools für Betrug oder Betrug. Durch unsere Untersuchung betrügerischer Beschäftigungsprogramme haben wir Dutzende Konten identifiziert und gesperrt“, sagte das Unternehmen in seinem Bericht.

In seinem Bericht erörterte OpenAI die Notwendigkeit, schändliche Aktionen auf ChatGPT anzufechten. Das Unternehmen wies auf mehrere Fallstudien hin, in denen es Konten aufgedeckt und Maßnahmen ergriffen hat, indem es Konten gesperrt hat, bei denen festgestellt wurde, dass sie das Tool in böswilliger Absicht nutzen.

In einem Fall veröffentlichte OpenAI einen Bericht, in dem abfällige Nachrichtenartikel über die USA verfasst wurden, wobei die Nachrichtenquelle in Lateinamerika unter dem Deckmantel einer chinesischen Publikationszeile veröffentlicht wurde.
In einem anderen Fall mit Sitz in Nordkorea wurde festgestellt, dass Lebensläufe und Stellenprofile für Scheinbewerber erstellt wurden. Laut OpenAI könnte das Konto für Bewerbungen bei westlichen Unternehmen verwendet worden sein.

In einer weiteren Studie wurden Konten aufgedeckt, die vermutlich aus Kambodscha stammen und ChatGPT zur Übersetzung und zum Generieren von Kommentaren in Netzwerken von „Romantik-Betrügern“ verwendeten, die mehrere Social-Media-Plattformen infiltrieren, darunter X, Facebook und Instagram.

OpenAI hat bestätigt, dass es seine Erkenntnisse mit seinen Branchenkollegen wie Meta geteilt hat, die unbeabsichtigt von den Aktionen auf ChatGPT betroffen sein könnten.