KI-generierte „Totenaussagen“ stellen die ethischen Grenzen des Gerichts in Frage
Dem Mann, der auf mich geschossen hat, möchte ich sagen: Es tut mir leid, dass wir uns an diesem Tag unter schlimmen Umständen begegnet sind. Vielleicht können wir im nächsten Leben Freunde sein … Ich glaube an Vergebung und daran, dass Gott vergeben wird, und das tue ich immer noch.
Chris Pelkey, eines der Opfer der Schießerei, sagte vor Gericht aus.
Aber das war nicht, wer er war. Er war 2021 bei einer Schießerei aus Wut im Straßenverkehr auf tragische Weise ums Leben gekommen.
Das bei der Verhandlung abgespielte KI-Video wurde mit Pelkeys Bild und Stimme erstellt.
Noch überraschender ist, was noch kommen sollte: Der Richter akzeptierte diese KI-generierte Aussage über die Auswirkungen auf das Opfer als Zeugenaussage während der Urteilsverkündung.
Es handelte sich um einen Prozess, der am 1. Mai dieses Jahres vor einem Bezirksgericht in Arizona stattfand und in der Strafgerichtsbarkeit und sogar in der gesamten angloamerikanischen Rechtswelt für beispiellose Aufregung sorgte.
Dies schafft auch einen Präzedenzfall, bei dem KI-generierte Inhalte als Zeugenaussagen vor Gericht vorgelegt und vom Gericht akzeptiert werden können.
Der Prozess löste auf Plattformen wie YouTube und Reddit einen Aufruhr aus, und viele Internetnutzer äußerten ihr Unverständnis über die Entscheidung des Richters, die Aussage der KI zu akzeptieren.
Manche Leute glauben, dass der diensthabende Richter Todd Lang „dumm“ sei und von höheren Stellen seines Richteramtes enthoben werden sollte.
Ein Internetnutzer, der behauptete, Anwalt zu sein, äußerte sich schockiert: „Wenn ich jemanden anheuern würde, der bei der Verhandlung etwas Ähnliches tun würde, würde ich nicht nur vor Gericht gestoppt, sondern sogar von der Anwaltskammer untersucht werden.“
Auf den ersten Blick erscheint es absurd und dumm, dass ein Gericht von KI generierte Zeugenaussagen im Namen eines toten Opfers akzeptiert. Die oppositionelle Haltung dieser Internetnutzer ist völlig gerechtfertigt.
Aber wenn man bedenkt, dass dieses Zeugenaussagevideo von der Familie des Opfers produziert wurde und weder der Angeklagte noch das Gericht Einwände erhoben haben, ist die Situation tatsächlich etwas merkwürdig und es scheint, als ob da noch etwas anderes im Gange ist.
Schauen wir uns diesen unglaublichen Prozess genauer an.
Hinter dem Zeugnis der toten KI: Liebe und Vergebung
Als Stacey Wales auf die Idee kam, KI-Videos als Zeugenaussagen zu erstellen, wusste sie, dass dies auf Kontroversen stoßen würde.
Sogar ihrem Mann fiel es zunächst schwer, das zu akzeptieren, und er meinte, sie sei „vielleicht ein bisschen zu weit gegangen“.
Wales ist die Schwester von Chris Pelkey, dem Opfer in diesem Fall und der Person, die bei der Schießerei aus Wut im Straßenverkehr ums Leben kam. Sie und ihr Mann arbeiten beide in der Technologiebranche und sind mit Tools zur KI-Generierung vertraut.
Der Angeklagte sollte gesetzlich bestraft werden und auch die Opfer hoffen, dass das Gericht die Höchststrafe verhängen kann, um Pelkeys Seele im Himmel Trost zu spenden. Wales möchte, dass der Schütze Gabriel Horcasitas den Rest seines Lebens im Gefängnis verbringt oder zumindest wegen Totschlags zur Höchststrafe verurteilt wird.
Sie glaubt aber auch, dass der Geist ihres Bruders im Himmel vielleicht anderer Meinung ist.
Nachdem Wales zwei Jahre lang darüber nachgedacht und mit Dutzenden von Freunden seines Bruders gesprochen hatte, lernte er seinen Bruder wieder kennen und war sich einer Sache ganz sicher:
Sie selbst kann dem Angeklagten vielleicht nicht vergeben, ihr Bruder wird ihm jedoch auf jeden Fall vergeben.
Nichts kann Pelkey wieder zum Leben erwecken. Aber immerhin könnte AI ihrem Bruder eine letzte Chance geben, sich auszudrücken – dachte Wales und überzeugte schließlich ihren Mann.
Sie verstand, dass sie sehr vorsichtig und umsichtig sein musste, wenn sie sich dazu entschloss. Wenn das Skript des Videos nicht gut wäre, wäre die Wirkung alles andere als zufriedenstellend.
Und sie tat es sofort: Sie sichtete aus den jahrelangen Interviewaufzeichnungen eine große Menge Nebenbeschreibungen, destillierte heraus, was ihrer Meinung nach dem Bild ihres Bruders und dem, was er möglicherweise vor Gericht sagen würde, am nächsten kam, und schrieb das Drehbuch.
Sie verwendeten Pelkeys Porträtfoto sowie Stable Diffusion und LORA-Feinabstimmung, um das Video zu generieren. Dabei kam es zu teilweisen Effektverfälschungen. Wales hoffte beispielsweise, dass sein Bruder in dem Video die Menschen, die er liebte und die ihn zum letzten Mal geliebt hatten, „anlächeln“ könnte, aber der lange Bart, der auf dem Foto seinen Hals bedeckte, war schwer zu ertragen. Sie mussten seinen Bart „trimmen“ und die Sonnenbrille abnehmen, die auf seinem Hut klebte, um Pelkeys Aussehen und Lächeln im generierten Video realistischer zu gestalten.
Das resultierende Video ist nicht ganz vollständig oder zusammenhängend und weist in der Mitte offensichtliche Unterbrechungen und Schnitte auf. Aber das ist egal. Wales hat im Video die Stimme, das Aussehen und das Lächeln ihres Bruders nachgestellt und war mit dem Ergebnis zufrieden.
„Hallo zusammen. Zunächst möchte ich klarstellen, dass ich Chris Pelkey bin, der von einer KI mithilfe von Fotos und Tondaten generiert wurde. Heute treffe ich euch in Form einer digitalen Reproduktion und möchte euch zeigen, was für ein Mensch ich im wirklichen Leben bin“, sagt Pelkeys digitaler Zwilling zu Beginn des Videos.
In diesem KI-generierten Video kann man einen vollständigeren Pelkey sehen: Er diente einst in der US-Armee und war in einem Kriegsgebiet mit harten Bedingungen stationiert. Er angelt gern, hat einen Bart, ist aber nicht schlampig und erfüllt fast alle Stereotypen eines rauen Veteranen.
Er liebt Gott, liebt das Leben und liebt die Menschen um ihn herum und betrachtet Glaube und Liebe als das einzige Glaubensbekenntnis in seinem Leben.
„An Gabriel Horcasitas, den Mann, der auf mich geschossen hat: Es tut mir leid, dass wir uns an diesem Tag unter schlimmen Umständen begegnet sind. Vielleicht können wir im nächsten Leben Freunde sein … Ich glaube an Vergebung, an Gottes Vergebung. Das habe ich immer getan und tue es immer noch.“
Im Video machte Pelkeys digitaler Zwilling ein paar Witze, genau wie im echten Leben: „Altern ist ein Luxusgeschenk, das nicht jeder genießen kann. Jetzt habe ich nicht die Möglichkeit dazu, aber dieses gefilterte Foto zeigt euch, wie ich aussehe, wenn ich alt und schwach bin. Macht es euch Angst?“
Im Mittelpunkt der Kontroverse: Sollten und wann sollten KI-Zeugenaussagen vor Gericht zulässig sein?
Die Idee, den autonomen Willen anderer zu respektieren, ist in der westlichen Gesellschaft populärer. Die Kontroverse der Internetnutzer zu diesem Vorfall besteht jedoch nicht darin, dass die Familie des Verstorbenen das Video gemacht hat, sondern darin, dass das Video dem Gericht vorgelegt wurde.
Darüber hinaus erhoben weder der Anwalt des Angeklagten noch der Richter vor Ort Einwände.
Noch empörender ist, dass der Richter aus irgendeinem Grund beschloss, dieses Video als Zeugenaussage zu akzeptieren.
Es besteht allgemein die Auffassung, dass Aussagen von Personen, die nicht anwesend waren und nicht von ihrem eigenen Willen getrieben sind, ob in Textform oder auf Video, nicht als Zeugenaussage verwendet werden können und sollten.
Es gab noch nie einen Präzedenzfall für die Zulassung von durch KI generierten Zeugenaussagen. In einigen anderen Fällen wurden ähnliche, von KI generierte Inhalte vor Gericht vorgelegt, aber nicht nur nicht als Beweismittel zugelassen, sondern die Täter wurden auch streng bestraft: Entweder wurden sie wegen Missachtung des Gerichts angeklagt oder zu einer Geldstrafe verurteilt.
Ist dieser Fall von Totschlag etwas Besonderes?
Wissen Sie was, es ist wirklich ein bisschen anders.
Im Gegensatz zum kontinentalen Rechtssystem, in dem Verurteilung und Strafmaß integriert sind, gilt im anglo-amerikanischen Recht der Grundsatz der verfahrensmäßigen Trennung von Verurteilung und Strafmaß. Die Verurteilungsphase des Falles ist abgeschlossen, der Angeklagte kann sich seiner Schuld nicht mehr entziehen und der Prozess ist in die Strafmaßphase eingetreten – in dieser Phase legte Wales, eines der Opfer, dem Gericht das Video vor.
Genauer gesagt handelt es sich bei dieser KI-generierten Videoaussage nicht um ein „Beweismittel“ im strafrechtlichen Sinne, da sie dem Gericht im Stadium der Urteilsverkündung vorgelegt wurde.
Während der Strafzumessungsphase kann die Staatsanwaltschaft Zeugen (wie etwa Wales, einen Verwandten des Verstorbenen) bitten, Aussagen zu machen, die dem Gericht helfen, den durch den Fall verursachten Schaden besser zu verstehen und so das von der Staatsanwaltschaft erwartete Strafmaß zu erreichen. Auch umgekehrt gilt: Die Verteidigung kann Zeugen hinzuziehen, die durch ihre Charakteraussagen ein günstigeres Bild des Angeklagten zeichnen und so die Strafe mildern – selbst wenn diese Zeugen keinen Bezug zum Fall selbst haben.
Kurz gesagt: Zeugenaussagen während der Strafzumessungsphase sollen die Entscheidung des Richters über die Schwere der Strafe beeinflussen, die dem Schuldigen auferlegt werden soll, was vom Gericht zugelassen wird.
In diesem Fall dürften den meisten Zuschauern jedoch eine Reihe von Einzelheiten entgangen sein: Aus den Prozessakten geht hervor, dass die Staatsanwaltschaft eine neunjährige Haftstrafe forderte; Wales forderte den Richter in ihrer eigenen Aussage auf, die Höchststrafe von 10 Jahren und 6 Monaten zu verhängen. Doch dem von Wales produzierten KI-Video zufolge schien Pelkeys digitaler Zwilling dem Angeklagten vergeben zu haben.
Vielleicht sagte Richter Todd Lang deshalb, dass ihm die KI gefiel und er einen Hauch von Vergebung darin hörte.
Nachdem er das Video gesehen hatte, sagte er zu Wales: „Ihre Aussage hat mir gezeigt, dass Sie wütend waren und sich für die Höchststrafe ausgesprochen haben. Doch selbst wenn Sie das wollten, haben Sie Chris erlaubt, seine Meinung zu äußern – Ihre Version der Geschichte. Ich habe nicht gehört, dass er die Höchststrafe gefordert hat.“
Am Ende verhängte der Richter die Höchststrafe von 10 Jahren und 6 Monaten. Auch der Angeklagte hat gegen das Urteil Berufung eingelegt.
Maura Grossman, Professorin an der University of Waterloo und KI-Rechtsforscherin, wies darauf hin, dass der Einfluss des Videos auf den Fall relativ gering sei und keine entscheidende Rolle spiele, wenn man bedenke, dass es sich in diesem Fall um ein Verfahren vor einem Einzelrichter und nicht vor einem Geschworenengericht handele und dass das vorgelegte KI-Video kein „Beweis“ im strafrechtlichen Sinne sei.
Gary Marchant, Juraprofessor an der Arizona State University, ist der Ansicht, dass diese Art von durch KI generierten Zeugenaussagen, die ihr Bestes tun, um die Stimme des Opfers wahrheitsgetreu wiederzugeben, im Vergleich zu böswilligen Handlungen, bei denen KI zur Erfindung nicht existierender Fälle oder Gesetze eingesetzt wird, keine böswillige Absicht enthalten und daher nicht bekämpft werden muss.
Dennoch schuf die Verwendung der durch KI generierten Zeugenaussagen in diesem Fall und insbesondere die unerwarteten Umstände, unter denen sie zugelassen wurden, einen aufsehenerregenden und umstrittenen Präzedenzfall.
Das Gericht ist ein seriöser Ort, der äußerst empfindlich auf Falschinformationen reagiert. Das anglo-amerikanische Recht ist ein Rechtssystem, das größtenteils dem Fallrechtssystem folgt. Ob, wann und unter welchen Umständen KI-generierte Informationen vor Gericht als gültige Zeugenaussagen zugelassen werden können, klingt nach einer äußerst komplexen und schwierigen rechtlichen und ethischen Frage. Beobachter empfanden die Entscheidung des Richters als zu voreilig.
Aber zumindest hatte Wales sein Ziel erreicht.
„Wir hoffen, den Richter zu beeindrucken. Unser Ziel ist es, den wahren Chris zu zeigen, den Menschen, der er war“, sagte sie.
#Willkommen beim offiziellen öffentlichen WeChat-Konto von iFanr: iFanr (WeChat-ID: ifanr), wo Ihnen so bald wie möglich weitere spannende Inhalte präsentiert werden.