Amazon zieht KI-generierte 'Fallout'-Zusammenfassung vor Staffel 2 inmitten von Gegenreaktionen zurück

Es ist ziemlich außergewöhnlich, womit sich Amazon nicht beschäftigen möchte. Zum Beispiel kann sich das Unternehmen einfach nicht die Mühe machen, jemanden einzustellen, um eine kurze Zusammenfassung der ersten Staffel von Fallout zu erstellen. Die zweite Staffel erscheint nächste Woche auf Prime Video, und ein hilfreicher Zusammenfassungsvideo ist in der Branche ziemlich Standard. Anstatt einen Menschen zu bezahlen, um ein Zusammenfassungsvideo zu erstellen, nutzte Amazon generative KI. Die Ergebnisse waren... nicht gut.

Sehen Sie, Amazon konnte sich auch nicht die Mühe machen, jemanden zu bezahlen, der sich das besagte KI-Zusammenfassungsvideo tatsächlich ansieht und sicherstellt, dass es korrekt ist. KI ist bekanntermaßen anfällig für "Halluzinationen" und erfindet Details, anstatt zuzugeben, wenn sie die Antwort nicht kennt. Warum sich mit Faktenprüfung beschäftigen? Es ist nur eine alberne TV-Show!

Nach Fanprotesten und einer Reihe von spöttischen Artikeln im Internet zog Amazon die KI-Zusammenfassung zurück, die eine monotone KI-Synchronisation mit allerlei falschen Informationen enthielt. Zu diesen Fehlern gehörten:

Die Rückblenden, in denen wir Walton Goggins' Charakter und seine Familie in den retrofuturistischen 2070er Jahren sehen, wurden von der KI fälschlicherweise als die 1950er Jahre identifiziert. Niemand bei Amazon bemerkte diesen unglaublich offensichtlichen Fehler.

Die Zusammenfassung behauptete, dass der Ghoul Ella Purnells Lucy die Wahl gab, "zu sterben oder mit ihm zu gehen", als sie Kyle MacLachlans Charakter Hank verfolgen, während er durch die Wüste nach New Vegas zieht. Dies lässt die Interaktion bedrohlich klingen, obwohl Lucy und der Ghoul zu diesem Zeitpunkt eigentlich recht freundschaftlich miteinander umgehen.

Aber die Ungenauigkeiten sind nur ein Symptom eines viel größeren Problems, und selbst eine perfekt genaue Zusammenfassung – das absolute Minimum, was man von dieser Art von Video erwarten würde – wäre immer noch problematisch. KI ist ein nützliches Werkzeug, aber ein schlechter Ersatz für menschliche Arbeit und Kreativität. Zusammenfassungen sind offensichtlich nicht der wichtigste Teil einer Show, aber sie sind für die Zuschauer sehr nützlich und können in den richtigen Händen auch für sich genommen viel Spaß machen.

Jane the Virgin bot vor jeder Episode urkomische Zusammenfassungen, die wirklich auf die Parodie der Telenovelas der Show eingingen. Vince Vaughns Apple TV-Serie Bad Monkey machte etwas sehr Ähnliches mit ihren Zusammenfassungen. Wie ein guter Trailer kann eine gute Zusammenfassung den Ton angeben und den Zuschauern helfen, sich auf die wichtigen Teile zu konzentrieren, Details hervorzuheben, die die Leute vielleicht übersehen haben, oder anzuzeigen, worauf wir uns konzentrieren sollten.

Das bekommt man nicht von KI. Man kann nicht einmal eine kompetent bearbeitete Zusammenfassung von Amazons größter Show im Dezember bekommen. Natürlich spart Amazon Geld, indem es KI-Schund anstelle einer professionellen Zusammenfassung herausbringt, aber das menschliche Talent zahlt auf lange Sicht dafür.

"Video-Zusammenfassungen markieren eine bahnbrechende Anwendung von generativer KI für Streaming", sagte der VP of Technology bei Prime Video, Gérard Medioni, in einer Erklärung, als diese KI-Zusammenfassungen erstmals enthüllt wurden. "Diese erste Funktion ihrer Art demonstriert Prime Videos fortlaufendes Engagement für Innovation und die Verbesserung des Seherlebnisses für Kunden, um es zugänglicher und angenehmer zu gestalten."

Wie KI-Zusammenfassungen das Seherlebnis "angenehmer" machen, bleibt ein Rätsel, wenn man bedenkt, dass es ganze YouTube-Kanäle gibt, auf denen sehr reale und talentierte Menschen detaillierte und nützliche Zusammenfassungen für Fans erstellen. Hier ist zum Beispiel eine Zusammenfassung von Fallout Staffel 1 – erstellt von einem echten Menschen – für die Amazon sehr leicht jemanden hätte bezahlen können:

Andererseits scheint es Menschen nicht zu bezahlen wichtiger zu sein als das "Seherlebnis zugänglicher und angenehmer zu gestalten". An diesem Punkt haben die meisten dieser Unternehmen so viel Geld in KI investiert, dass sie sie irgendwie wann immer möglich einsetzen müssen, selbst als (schlechten) Machbarkeitsnachweis. Aber das ist nicht gut für Menschen, die in diesen Branchen arbeiten.

Wie ein Kommentator auf Reddit bemerkte: "Ich bin ein Editor, der buchstäblich diese Art von Zusammenfassungen als Teil meines alten Jobs zusammengeschnitten hat. Ich würde Notizen vom Kunden bekommen, die Show ansehen, die Episoden markieren und dann sorgfältig eine Zusammenfassung erstellen, die hoffentlich ein wenig stilistischen Schwung hatte, während sie immer noch die Hauptpunkte durchging, die für die nächste Staffel benötigt wurden.

"Ich bin zu anderen Arten des Editierens übergegangen, aber kämpfe derzeit damit, viel Arbeit zu finden, wie viele talentierte Editoren, die ich kenne, mit jahrelanger Erfahrung. Also ja... das hat definitiv jemandem den Job weggenommen."

Es mögen jetzt nur Zusammenfassungen sein, aber KI bahnt sich ihren Weg in immer mehr Aspekte des Lebens und der Unterhaltungsindustrie. Das Problem ist, dass KI sicherlich ein nützliches Werkzeug sein kann, wenn es um Brainstorming, Organisation, Recherche und so weiter geht, aber sie ist sehr schlecht in echter Kreativität. Viele Führungskräfte und Tech-Bros verstehen das nicht wirklich – sie sind gut in Geschäftsdingen, könnten aber echte Kreativität nicht erkennen, wenn sie ihnen ins Gesicht springen würde.

Befürworter der KI posten ständig KI-Clips auf X und anderswo und schwärmen davon, wie sie Hollywood komplett übernehmen wird, aber ich habe noch keinen einzigen KI-Clip gesehen, der nicht hölzern, falsch und leblos ist. Tech-Evangelisten treiben dies voran, als wäre es die zweite Ankunft der NFTs, aber ich denke, sie unterschätzen die weit verbreitete Abneigung gegen alles, was mit KI zu tun hat, und unser menschliches Bedürfnis nach einer menschlichen Berührung.

In anderen Nachrichten verklagt Disney Google wegen Urheberrechtsverletzung für seine generative KI und verkauft gleichzeitig seine Seele an ChatGPT, indem es seine umfangreiche Inhaltsbibliothek für den Sora KI-Videogenerierungsdienst lizenziert. Nichts davon wird gut enden, vermute ich, aber zumindest werden wir generative KI-Chatbots haben, die uns versichern, dass alles in Ordnung sein wird. (Im Ernst, fragen Sie ChatGPT und es wird Ihnen versichern, dass Sie zwar allen Grund zur Sorge haben, aber am Ende wird alles gut werden. Möchten Sie, dass es eine Liste mit Gründen zusammenstellt, warum Sie sich keine Sorgen über die kommende Apokalypse machen sollten?)

Ich habe Amazon um einen Kommentar zu den KI-Zusammenfassungen und der Entscheidung des Unternehmens gebeten, das Fallout-Video zurückzuziehen, und werde diesen Beitrag aktualisieren, wenn und sobald sie antworten. Es ist sicherlich die Art von schlechter Presse, die das Unternehmen weniger als eine Woche vor dem Debüt der zweiten Staffel auf Prime Video vermeiden wollte. Natürlich ist dies ein unerzwungener Fehler, wenn es je einen gab. C'est la vie.

Ich bin wirklich gespannt auf Fallout Staffel 2. Ich fand die erste Staffel großartig. Sicher, sie haben einige Lore-Dinge verändert, aber sie haben den Ton der Videospiele richtig getroffen und die Besetzung war perfekt. Diesmal veröffentlicht Amazon klugerweise eine Episode pro Woche, anstatt alle Episoden auf einmal. Suchen Sie nach meinen Zusammenfassungen und Rezensionen der neuen Staffel hier in diesem Blog. Hier können Sie meinen Wochenend-Streaming-Guide einsehen.