OpenAI hat seinen KI-Klassifikator eingestellt, ein Tool zur Identifizierung von KI-generiertem Text, nachdem Kritik an seiner Genauigkeit geäußert wurde.
Die Kündigung wurde subtil über ein Update eines bestehenden angekündigt Blogeintrag.
Die Ankündigung von OpenAI lautet:
„Seit dem 20. Juli 2023 ist der KI-Klassifikator aufgrund seiner geringen Genauigkeit nicht mehr verfügbar. Wir arbeiten daran, Feedback einzubeziehen und erforschen derzeit effektivere Provenienztechniken für Texte. Wir haben uns der Entwicklung und Bereitstellung von Mechanismen verschrieben, die es Benutzern ermöglichen zu verstehen, ob Audio- oder visuelle Inhalte KI-generiert sind.“
Aufstieg und Fall des Klassifikators von OpenAI
Das Tool wurde im März 2023 im Rahmen der Bemühungen von OpenAI eingeführt, KI-Klassifizierungstools zu entwickeln, die Menschen helfen zu verstehen, ob Audio- oder visuelle Inhalte KI-generiert sind.
Ziel war es, durch die Analyse sprachlicher Merkmale und die Vergabe einer „Wahrscheinlichkeitsbewertung“ zu erkennen, ob Textpassagen von einem Menschen oder einer KI verfasst wurden.
Das Tool erfreute sich immer größerer Beliebtheit, wurde jedoch letztendlich eingestellt, da es nicht in der Lage war, zwischen menschlicher und maschineller Schrift zu unterscheiden.
Wachstumsschmerzen für die KI-Erkennungstechnologie
Die abrupte Abschaltung des Textklassifikators von OpenAI verdeutlicht die anhaltenden Herausforderungen bei der Entwicklung zuverlässiger KI-Erkennungssysteme.
Forscher warnen davor, dass ungenaue Ergebnisse bei unverantwortlichem Einsatz zu unbeabsichtigten Folgen führen könnten.
Kristi Hines vom Search Engine Journal hat kürzlich mehrere aktuelle Studien untersucht, die Schwächen und Vorurteile in KI-Erkennungssystemen aufdecken.
Forscher fanden heraus, dass die Tools von Menschen geschriebene Texte oft fälschlicherweise als KI-generiert bezeichneten, insbesondere für Nicht-Muttersprachler des Englischen.
Sie betonen, dass die weitere Weiterentwicklung der KI parallele Fortschritte bei den Erkennungsmethoden erfordert, um Fairness, Rechenschaftspflicht und Transparenz zu gewährleisten.
Kritiker sagen jedoch, dass die generative KI-Entwicklung die Erkennungstools schnell übertrifft und eine einfachere Umgehung ermöglicht.
Mögliche Gefahren einer unzuverlässigen KI-Erkennung
Experten warnen davor, sich bei hochriskanten Entscheidungen wie der Erkennung akademischer Plagiate zu sehr auf aktuelle Klassifikatoren zu verlassen.
Mögliche Folgen des Vertrauens auf ungenaue KI-Erkennungssysteme:
- Menschliche Autoren werden zu Unrecht des Plagiats oder Betrugs beschuldigt, wenn das System ihre Originalwerke fälschlicherweise als KI-generiert kennzeichnet.
- Dadurch bleiben plagiierte oder KI-generierte Inhalte unentdeckt, wenn das System nichtmenschlichen Text nicht richtig erkennt.
- Verstärkt Vorurteile, wenn die KI den Schreibstil bestimmter Gruppen eher fälschlicherweise als nicht menschlich einstuft.
- Die Verbreitung von Fehlinformationen erfolgt, wenn fabrizierte oder manipulierte Inhalte von einem fehlerhaften System unentdeckt bleiben.
In Summe
Da KI-generierte Inhalte immer weiter verbreitet werden, ist es von entscheidender Bedeutung, die Klassifizierungssysteme weiter zu verbessern, um Vertrauen aufzubauen.
OpenAI hat erklärt, dass es sich weiterhin der Entwicklung robusterer Techniken zur Identifizierung von KI-Inhalten widmet. Der schnelle Ausfall seines Klassifikators zeigt jedoch, dass die Perfektionierung dieser Technologie erhebliche Fortschritte erfordert.
Ausgewähltes Bild: photosince/Shutterstock
