Wachsam sein! GPT-Detektoren können auch fälschen
Die Entwicklung der generativen künstlichen Intelligenz ist wie ein außer Kontrolle geratenes wildes Pferd: Wenn man nur herumläuft, wird man früher oder später Menschen rauswerfen, die nicht gut im Reiten sind.
Am 30. November 2022 wurde ChatGPT, ein Dialog-Chat-Roboter mit künstlicher Intelligenz, offiziell eingeführt und erfreute sich in den sozialen Medien schnell großer Beliebtheit. In nur 5 Tagen überstieg die Zahl der registrierten Benutzer 1 Million. In zwei Monaten stiegen die monatlich aktiven Benutzer von ChatGPT haben die 100-Millionen-Grenze überschritten. Werden Sie der am schnellsten wachsende Verbrauchernutzer in der Geschichte.
Offensichtlich ist nicht jeder auf den Ansturm der generativen künstlichen Intelligenz vorbereitet.
Anfang Januar dieses Jahres kündigte das New Yorker Bildungsministerium an, dass es Schülern die Verwendung von ChatGPT auf den Geräten und im Netzwerk ihrer Schule verbieten werde, um Schüler am Betrügen zu hindern. Sciences Po in Paris, Frankreich, hat Ende Januar ebenfalls offiziell eine Mitteilung herausgegeben, die allen Studierenden und Mitarbeitern jedes Campus untersagt, ChatGPT zur Erledigung von Lehraufgaben zu nutzen. Damit ist sie die erste Schule in Europa, die ein „umfassendes Verbot“ von ChatGPT eingeführt hat.
Im Juli, in einem Umfeld, in dem die generative künstliche Intelligenz florierte und hunderte Denkschulen miteinander konkurrierten, begannen einige ausländische Pädagogen, dem Trend der Zeit zu folgen und sich aktiv mit der generativen künstlichen Intelligenz auseinanderzusetzen.
Die Direktoren von 24 Forschungsuniversitäten der Russell Group im Vereinigten Königreich haben kürzlich gemeinsam eine Richtlinie entwickelt und unterzeichnet, die darauf abzielt, Studierende und Mitarbeiter klar darauf hinzuweisen, wo der Einsatz generativer künstlicher Intelligenz nicht geeignet ist, sie dabei zu unterstützen, fundierte Entscheidungen zu treffen, und sie dazu zu befähigen Treffen Sie die richtigen Entscheidungen. Nutzen Sie diese Tools und erkennen Sie deren Verwendung bei Bedarf an.
Ihrer Ansicht nach wird generative künstliche Intelligenz, solange sie richtig eingesetzt wird, von großem Nutzen für die Bildung sein, aber zuvor müssen sie sich vielleicht vor einigen „kleinen Problemen“ in Acht nehmen.
Im Bildungsbereich ist die Anwendung von ChatGPT zur Erledigung von Schüleraufgaben nicht neu, und viele Lehrer betrachten die Erkennung künstlicher Intelligenz inzwischen auch als „die wichtigste Gegenmaßnahme, um die Form des Betrugs des 21. Jahrhunderts zu stoppen“.
Studien haben jedoch gezeigt, dass einige KI-Detektoren diskriminierend und irreführend sind.
Kürzlich hat ein Team von Wissenschaftlern unter der Leitung von James Zou, einem Assistenzprofessor für biomedizinische Datenwissenschaft an der Stanford University, 91 von Nicht-Muttersprachlern verfasste TOEFL-Aufsätze (Test of English Proficiency for Non-Native Speakers of English) mit sieben beliebten GPT-Detektoren ausgewertet .
Die Studie ergab, dass mehr als die Hälfte der Aufsätze, die von Nicht-Muttersprachlern des Englischen verfasst wurden, bei allen sieben GPT-Detektoren fälschlicherweise als KI-generiert gekennzeichnet wurden, und sogar ein Detektor hat fast 98 % der Aufsätze fälschlicherweise als KI-generiert gekennzeichnet.
Die Untersuchung von Aufsätzen, die von Achtklässlern mit Muttersprache Englisch verfasst wurden, ergab, dass derselbe KI-Detektor mehr als 90 Prozent der Aufsätze als von Menschen erstellt einstufte.
Bei der Verfolgung dieser inhärent voreingenommenen Diskriminierung stellten die Forscher fest, dass generative KI nach umfangreichem Vortraining Text mit geringer Komplexität generieren kann. Das heißt, wenn Menschen in vertrauten Mustern schreiben und viele gebräuchliche Wörter verwenden, erhöht sich das Risiko, als KI-generiert gekennzeichnet zu werden, erheblich , und Nicht-Muttersprachler des Englischen sind einem größeren Risiko ausgesetzt, gerade weil sie eher einfachere Wörter verwenden.
Die Auswirkungen dieser Diskriminierung verdienen Aufmerksamkeit. Die Forscher warnen außerdem davor, dass „die Auswirkungen von GPT-Detektoren auf nicht-muttersprachliche Autoren gravierend sind“, und fügen hinzu, dass „im Bildungswesen, dem wohl wichtigsten Markt für GPT-Detektoren, Nicht-Muttersprachler dem Risiko von Betrugsvorwürfen ausgesetzt sind, die sich nachteilig auf a auswirken könnten.“ akademische Karriere und psychische Gesundheit des Studenten.“
Bevor man darüber nachdenkt, ob generative künstliche Intelligenz eine „gute Medizin“ oder ein „Gift“ für die Bildung ist, kann es daher notwendig sein, zunächst diese „kleinen Probleme“ zu lösen.
#Willkommen, dem offiziellen öffentlichen WeChat-Konto von Aifaner zu folgen: Aifaner (WeChat-ID: ifanr). Weitere spannende Inhalte werden Ihnen so schnell wie möglich präsentiert.
Ai Faner | Ursprünglicher Link · Kommentare anzeigen · Sina Weibo