Wikipedia:WikiProjekt KI und Wikipedia/Handbuch

Es sollte Wikipedia:Umgang mit KI am Ende als Empfehlung (oder mehr) erstellt werden.

Erste Thesen (darf verändert und ergänzt werden)

Wegen der Fehlerhaftigkeit (sogenannte Halluzinationen bzw. Konfabulationen, Fakten wie Quellen können betroffen sein und können nicht stimmen bzw. völlig aus der Luft gegriffen sein) müssen praktisch alle Inhalte nachgeprüft werden. Auch wenn sich die sogenannte Halluzinationsrate bzw. Fehlerrate weiter verringert und die Texte und Quellenangaben sehr plausibel klingen und schwerer identifizierbar werden, kann jedes einzelne Faktum fehlerhaft sein.
- Menschlich kuratiertes Wissen ist unabdingbar, Gefahr des Zirkelschlusses: solche Fehler landen in der Wikipedia und werden dann für das Training der KI verwendet, also quasi legitimiert. (Benutzer:Sargoth)
WP:BLG gilt auch hier uneingeschränkt. Alles muss durch verlässliche reputable Quellen bequellt sein und sachlich richtig sein.
Autoren, die KI zur Erstellung als Hilfsmittel verwenden, tragen die Verantwortung für diese Prüfung. "Etwas in Wikipedia eingestellt = es wird erwartet, dass alles überprüft wurde". Eine stichprobenartige Prüfung ist nicht ausreichend. Die Gefahr ist, dass man allzumenschlich davon ausgeht: Es klingt logisch und wird schon richtig sein, also publiziere ich es mal.
- Letztlich ist eine Art Post-Editing von Texten, Quellen etc. notwendig, so als wenn es sich um die Überprüfung einer maschinellen Übersetzung handelt - nur dass es keinen gültigen Ausgangstext in einer anderen Sprache gibt, sondern andere Quellen, die WP:BLG entsprechen müssen. Im Idealfall geben KI heute die Quellen an und man muss prüfen, ob es jede Quelle gibt, ob sie reputabel ist und das wirklich dort steht, was damit bequellt wurde.
- Wikipedia, auch in anderen Sprachen, wird oft als Quelle durch die KI angegeben (weil sie oft für das Training verwendet wurde). Zu beachten ist, dass Wikipedia keine verwendbare Quelle ist, weil die Gefahr eines Zirkelschlusses besteht. Es ist dann auch die Frage, was aufwändiger ist: selbst schreiben oder jeden Satz prüfen.
Eine Verwendung von Bots zum direkten Einstellen von Artikeln ist daher weiter nicht regelentsprechend.
Die interne Verwendung von KI auf Autorenseite als Hilfsmittel sollte deshalb zur Vermeidung von Missverständnissen oder Sanktionen angegeben werden - ebenso wie die Tatsache der Überprüfung. <solange es keine härteren Regeln gibt>
Man könnte einwenden, dass wir auch ohne KI Fehler und Quellenfiktionen haben und die KI-Texte irgendwann gleichgut oder besser werden. Normativ wird aber auch in diesen Fällen heute nichts toleriert, was unseren Regeln nicht entspricht und als solches erkannt wurde.
Ob das für IP und neu angemeldete Benutzer auch so umsetztbar ist, muss man diskutieren. Vielleicht muss man da strenger sein.
Die Erkennbarkeit solcher ungeprüften KI-Artkel ist eine Voraussetzung für die Durchsetzung aller Regeln. Es muss auch genügend Kapazität vorhanden sein (Benutzer, die sich darauf spezialisieren und/oder auch der Einsatz aktueller geeigneter Erkennungssoftware, die auch KI nutzt und für die ebenfalls ein Markt entsteht, der im Wettbewerb mit den KI-Werkzeugen steht (Analog Viren- und Antivirenprogramme).

Diskussion

Nur kurz meta: Würde vorschlagen, dass wir nicht den Begriff "Halluzinationen" verwenden. Das ist eine Vermenschlichung der Technik. Es sind schlicht Fehler im Hauptprodukt dieser Technik. --Jensbest (Diskussion) 16:03, 2. Jul. 2024 (CEST)[Beantworten]

Das heisst aber "offiziell" und überall so (siehe Haupseite) und es braucht einen spezifischen Namen dafür, den man auf Halluzination (Künstliche Intelligenz) sogar verlinken kann (ist also definiert). Es ist natürlich "Bullshit", aber das ist nicht definiert :-) Wortulo (Diskussion) 17:13, 2. Jul. 2024 (CEST)[Beantworten]

Ja, aber wir müssen hier in einem Projekt nicht ki-Propaganda-Sprech verwenden, die dem vermenschlichenden Framing dient. Das ist hier ja kein Artikel, ergo können wir es auch schlicht Fehler oder gerne Bullshit nennen. Diese beiden Begriffe treffen zu, während der Propaganda-Marketing-Begriff nur der Vernebelung durch Vermenschlichung dient. Wie gesagt, ist nur eine Meta-Anmerkung, aber dient dazu, dass wir hier nicht in ein ki-Fieber verfallen, sondern eine sachliche Distanz zu diesem Hype bewahren, während wir klären, wie wir mit den direkten und indirekten Auswirkung proaktiv umgehen. --Jensbest (Diskussion) 17:39, 2. Jul. 2024 (CEST)[Beantworten]

Habe es auf der Vorderseite und hier nochmal präzisiert und relativiert (Es gibt Halluzinationen und Konfabulationen - letzteres nehmen einige synonym, einige sehen eine Untergruppe) und auch die Einwände vorn erwähnt. Bei Fehler oder Bullshit müsstest Du immer fragen: Welcher? KI-Fieber wollen wir ansonsten doch genau vermeiden im und durch das Projekt. --Wortulo (Diskussion) 17:50, 2. Jul. 2024 (CEST)[Beantworten]

Weil du insistierst, insistiere ich mal zurück: Eine Technik kann keine Halluzinationen und auch keine Konfabulationen haben. Eine Technik träumt nicht und hat keine Sinne und keine Erinnerungen. Ergo ist es eine ggf. mit fragwürdiger oder naiver Absicht etablierte Wortschöpfung, die sich den Worten innewohnenden Aussagen bedient, um die betreffende Technik zu vermenschlichen. Das ist modernes, manipulatives Marketing - Klar ist auch, dass wir empfänglich für solches Framing sind. Viele denken an Träumen Androiden von elektrischen Schafen? oder auch Wem gehört Data?. Aber noch gibt es keine Androiden, noch ist es nur eine Technik ohne eigenes Bewusstsein und damit ohne Halluzinationen und Konfabulationen. --Jensbest (Diskussion) 18:50, 2. Jul. 2024 (CEST)[Beantworten]