[Organisation] AI und Modding - wie steht Ihr dazu?

[Acifer]

Mich würde interessieren, wie die Community zum Thema "Verwendung künstlicher Intelligenz" in Mods steht.

Es gibt zwei Haupteinsatzgebiete:
- AI-erstellte Bilder, zum Beispiel Portraits
- AI-erstellte Sprache für Voiceover.

Wie seht Ihr deren Verwendung? Ist die - natürlich unter Beachtung aller geltenden Copyright-Bestimmungen - Verwendung AI-generierter Modkomponenten für Euch in Ordnung? Werdet Ihr solche Mods spielen oder lehnt Ihr dies ab?

 

[Sir Darian]

Hmmm... *grübel*

Jetzt mal nur ein kurzer Schnellschuss, das ist ein Thema, das schon sich tiefer Eindenken verträgt.

Auf jeden Fall lieber eine Mod mit neuen Areas, die per AI erzeugt wurden, als eine, die Areas nutzt, die aus PoE geklaut wurden.

 

[Maus]

Kommt aus meiner Sicht auf die Details drauf an. Eine KI, die einfach zwei Bilder vermischt/morpht ist für mich eine Copyright-Verletzung (wenn die Bilder geschützt sind). Wenn eine KI echt neue Bilder erstellt, aber halt mit existierenden Bildern trainiert wurde, dann sehe ich das unkritisch. Kein Künstler kann mir erzählen, dass er nicht die Werke anderer als Vorbild/Inspiration genutzt hat. Und wenn das noch interaktiv geschieht, der Benutzer die Prompts variiert um das von ihm gewünschte Ergebnis zu bekommen, dann ist für mich der Benutzer der KI schon sehr nahe an der Urheberschaft dran.
Dann gibt es ja noch die Möglichkeit, den Prompt zu spezifizieren in der Art: Male ein Bild im Stil des Künstlers XY. Das ist dann wieder schwierig. Nutzt die KI dann nur Bilder dieses einen Künstlers? Naja, normalerweise nicht, weil das ist zu wenig Trainingsmaterial. Was macht so ein Prompt dann? Wahrscheinlich halt eine Suche nach Bildern, die mit dem Künstler in irgendeiner Form assoziiert wurden, würde ich denken. Aber da ist nachher der Punkt schlicht die Nachweisbarkeit. Und die Frage, die sich stellt: wozu sollte man das für eine Mod so machen?

Bei Stimmen kenne ich mich zu wenig aus. Mit der Stimme einer Person die KI neuen Text sprechen lassen, halt ich für nicht in Ordnung, das ist eher schon Persönlichkeitsdiebstahl etc. Aber wenn eine KI einfach eine künstliche Stimme ist, würde ich eher kein Problem sehen. Weswegen?

 

[Argent]

Ich habe grundsätzlich keine Probleme mit der KI-Nutzung, solange man es nicht übertreibt. So hat die KI (besonders im Grafikbereich) immer noch Schwächen. Z.B. sehen KI-generierte Charaktere immer so aus, als wären sie einem Disney-Animationsfilm oder Hochglanzmagazin entsprungen. KI-generierte Areagrafik scheint unter diesen Problemen nicht so zu leiden, daher wäre ich daran mehr interessiert.

Zu KI-erstellten Sprache im Stil bekannter Synchronsprecher oder Schauspieler habe ich eine zwiespältige Meinung. Einerseits sind das Personen der Öffentlichkeit und werden schon seit Langem parodiert und anderweitig "kopiert". Andererseits gibt es noch keine etablierten Regeln oder Gesetze, wie man damit im KI-Bereich vernünftig umgehen sollte. So kann es schnell passieren, dass man gewisse Grenzen überschreitet. Ich wäre auf jedem Fall vorsichtig, mit solchen Stimmen einen neuen Charakter einer Mod zu vertonen. Änderungen oder Erweiterungen von existierenden Spielcharaktern sehe ich da weniger problematisch (solange es thematisch zum Charakter passt).

 

[Sir Darian]

Hmmm... *grübel*

Guter Aspekt mit den Stimmen.

Einerseits wäre es ein Oberträumchen, Sarevok in BG2+ToB endlich mit seiner "originalen" Stimme aus BG1 sprechen zu hören.
Das hat mich vom ersten Moment an gestört an BG2.

Oder endlich eine deutsche Synchro für die EE Inhalte und SoD.

Andererseits ist mir bewusst, dass das rechtlich schwierig ist.

 

[Lotus Noctus]

KI für Stimmen finde ich schon ein Traum. Insbesondere bei Animes mit dt. Sprechern der Hauptprotagonisten (z. B. bei Tsubasa, Naruto, Son Goku) gehts mir immer ziemlich aufm dem Zeiger, wenn sich die Stimme komplett verändert. Es ist ja nicht nur die Stimme andere Kritiker:innen meinen, dass sich damit sogar die Persönlichkeit des Charakters der jeweiligen Figur ändert.

Allerdings muss man auch die "Synchronstimmen" respektieren, denn die Gründe für einen Abbruch/Wechsel können vielseitig sein. KI könnte hier bereits vor Vertragsabschluss eine tolle Möglichkeit für beide Seiten sein, wenn der/die Synchrosprecher:in und ggf. deren Hinterbliebene auch bei jeder neuen Folge ein Stück vom Kuchen abbekommen, fände ich schon fair.

 

[Danol]

Grundsätzlich bin ich recht angetan von AI und freue mich auf die Möglichkeiten, die sich hier für Spiele generell und Mods im besonderen ergeben. Häufig sind ja Zeit und Kosten bei Mods stark limitierende Faktoren und AI kann hier helfen, mit vertretbarem Aufwand ein merklich besseres Endprodukt abzuliefern.

Ein bisschen Sorgen macht mir die Hysterie, die AI bei verschiedenen Gruppen immer wieder auslöst - vom Untergang der Menschheit bis zum Verschwinden der Kunst wird ja alles mögliche prophezeit - was natürlich für einen Mod problematisch werden kann. Insbesondere auch weil Gesetzgeber eine ungesunde Tendenz zeigen, dieser Panik durch Überregulierung zu begegnen.

Ich persönlich würde solche Mods, sofern sie in mein "Beuteschema" passen, spielen.

 

[Avalon]

Ich persönlich finde die Vertonung etwas problematisch. Wenn ich die schöne deutsche Vertonung (Stimmen) im oBG2 höre (fast alle Begleiter) und die grauenvolle Stimme von Bg2EE-Begleiter (Hexxat und ihre komische Auftragsgeberin) dann lieber keine Vertonung als grauenhafte Hexxat-Gespräche. BG1 war auch grauenvoll.

Und wenn man in Modding-Scene schaut. Die Jungs von SoS haben sich viel Mühe gegeben viele Gespräche zu vertonen aber es ist grauenhaft und das wirkt auch negativ auf Qualität der Mod, man fragt sich warum eigentlich.

 

[Jastey]

Ich bin da bei maus. Für mich wäre es wichtig, wie die KI trainiert wurde. Ich weiß zu wenig über die existierenden Tools, um beurteilen zu können, was da wie zutrifft. Wenn sie tatsächlich nur mit geklauten Bildern trainiert wurde und das Ergebnis dann ähnlich aussieht wie von Künster xy, dann würde ich es ablehnen.
Prinzipiell habe ich nichts dagegen KI, zu nutzen. Ich höre auch sehr gerne Musik, die nicht von echten Musikern sondern synthetisiert erstellt wurde. (Ist eventuell ein schlechtes Beispiel, weil hier trotzdem ein Mensch die eigentliche Musik designt hat, und nicht alles von einer KI erzeugen ließ.)
Deepfakes, gerade bei Photos/Videos/Stimmen kommen für mich gar nicht in Frage.
Ich merke aber, dass ich die Stimmen der NPCs bereits ent-personalisiert habe, also nicht an den Sprecher denke, wenn ich sie im Spiel höre. Hier also zum Beispiel Jaheira mehr gesprochene Zeilen mit der Stimme der Sprecherin zu geben bedeutet für mich erstmal nicht, die Sprecherin zu deepfaken, da es nicht um die Sprecherin als Person geht, sondern eben Jaheira mehr sagen zu lassen. Das wäre für mich vom Gefühl her so, als würde ich das Portrait einer Celebrity editieren, um daraus ein NPC-Bild zu machen. oder eben Jaheiras Originalportrait. Da denke ich bei einem Edit auch nicht daran, dass ich dem Künstler des Portraits auf die Füße trete, sondern dass ich Jaheira eine andere Frisur oder Rüstung geben möchte. Ich bin hier aber trotz meines Bauchgefühls aus Prinzip dagegen, echte Stimmen zu faken, weil die Grenzen zu Deepfakes so fließend sind, und auch, weil es hier leicht Richtung gesetzlicher Grauzone geht.
EDIT: Hier aber noch ein Gedanke dazu. ich habe für die Solaufein-Mod ein Soundset zusammengeschustert, dass die bestehenden Clips aus dem Spiel verwendet, aber eben dann geschnitten, etc. Geht das schon in die Richtung? Es ist auf alle Fälle dasselbe, wie das Portrait zu editieren.

 

[Acifer]

Sehr interessante Ansichten bisher, Danke!

Ein bisschen Sorgen macht mir die Hysterie, die AI bei verschiedenen Gruppen immer wieder auslöst - vom Untergang der Menschheit bis zum Verschwinden der Kunst

Diese Erfahrung habe ich auch gemacht.
Ich plane in eine meiner Mods teilweise durch KI unterstützte Portraits zu integrieren. Das bedeutet, ich erstelle eine Vorlage, mache einen Entwurf, und die KI malt die Bilder fertig.
Ebenso habe ich Dialoge vertont, für die ich vorgefertigte KI-Stimmen (nicht eine geklonte Stimme eines bekannten Sprechers) verwende.
Daraufhin erreichte mich die (EDIT:englische) Nachricht eines Beta-Testers:

Ich bin mir bewusst, dass die Erstellung eines Mods einen Wahnsinnsaufwand bedeutet, und ich erkenne an, dass du keine bösen Absichten hast, aber als jemand, der viele Künstlerfreunde hat, die sich abmühen, kann ich mich nicht an etwas beteiligen, das ihren Lebensunterhalt weiter bedroht (die Normalisierung der Verwendung von KI-Tools, die unweigerlich Kunst nachahmen, an der sie ausgebildet wurden, da KI per Definition nicht kreativ sein kann).
Kurz gesagt, das Problem ist die weitere Verbreitung dieser "Massenkunstdiebstahl-Tools", nicht die Verwendung der Kunst von jemandem an sich.

Jetzt bin ich am Überlegen, ob sich die ganze Mühe lohnt, wenn ein Teil der Spieler die Mod gerade deshalb ablehnt.

ich habe für die Solaufein-Mod ein Soundset zusammengeschustert, dass die bestehenden Clips aus dem Spiel verwendet, aber eben dann geschnitten, etc. Geht das schon in die Richtung? Es ist auf alle Fälle dasselbe, wie das Portrait zu editieren.

Das finde ich nicht schlimm. Ich schneide gerne Musik aus der BG-Reihe für Videoclips zusammen, und bisher hat sich darüber noch niemand beschwert. Ich hatte für meinen Skyfire-Trailer damals Julius Borisov um Erlaubnis gefragt, und er hatte keine Einwände. Bei zusammengesetzten Stimmen, welche aus der Beamdog-Reihe kommen, sehe ich das genauso.

 

[Morywen]

Bei Stimmen finde ich das sehr schwierig. Wenn man aus den originalen Samples etwas neues zusammenstellt, sehe ich den Unterschied zwischen selber geschnitten und AI nicht so. Wenn man die AI verwendet mit der Originalstimme neuen Content zu erstellen, finde ich das grenzwertig.
Bei Bildern ist es schwierig. Bei manchen sind die Originale so deutlich zu erkennen, dass ich das für ein Plagiat halte. Manche sind so generisch, dass es eher langweilig wirkt. Andere sehen sehr gut aus.
Bei Gebietskarten braucht man einige Zeit um gute Ergebnisse zu erzielen, da finde ichzumindest fürs Tabletop, kann die AI sehr hilfreich sein.
Die AI ist ein zweischneidiges Schwert, wenn sie ausreichend trainiert ist, kann dies für Künstler durchaus zu Einkommenseinbußen führen. Auf der anderen Seite ist es für den privaten Gebrauch eine echte Hilfe, weil man individuelle Darstellungen erstellen kann.

 

[Danol]

Jetzt bin ich am Überlegen, ob sich die ganze Mühe lohnt, wenn ein Teil der Spieler die Mod gerade deshalb ablehnt.

Die Frage ist halt: Wie wichtig sind Dir diese Spieler? Ich persönlich habe irgendwann aufgehört, mich um die Meinung solcher irrer zu kümmern - aber ich veröffentliche auch keine Mods, für die ich mir dann eine ordentliche Verbreitung wünsche.

Du kannst natürlich auch einfach 'ne Weile warten, solche kollektiven Hysterien flauen immer irgendwann ab und dann kannst Du den Mod ja immer noch veröffentlichen. Oder die AI-generierten Inhalte irgendwann nachpatchen.

 

[Jarl]

Ich sehe das liberal und halte das wie Danol für Hysterie. Man muss sich klar machen, dass wir hier über nicht-kommerzielle Fan-Inhalte sprechen. Würden Gesichter, Stimmen, kreativer Content durch AIs in abgewandelter Form kopiert, um dann unter Ausschluss der menschlichen Künstler Geld zu verdienen, wäre das was anderes.

Aber AI oder nicht: Wenn ich eine Fanfiction zu z.b. Harry Potter schreibe und Namen, Charaktere usw aus dem Original einfließen lasse, dann darf ich halt kein Geld dafür verlangen... Mods sind im Grunde ja nichts anderes.
Und, ob ich eine Areagrafik mit Photoshop abwandle oder eine im Spiel enthaltene Stimme neu zusammenschneide, ist doch im Wesentlichen dasselbe. Die AI ist nur ein Tool, um solche Arbeitsschritte zu beschleunigen...

 

[Sirius]

Jetzt bin ich am Überlegen, ob sich die ganze Mühe lohnt, wenn ein Teil der Spieler die Mod gerade deshalb ablehnt.

Schon ein äterer Thread, aber da ich vor einiger Zeit ein paar Übersetzungen mithilfe von ChatGPT erstellt habe, dachte ich, dass ich auch mal meine Meinung zu dem Thema kundtun könnte.

Ich bin bzw. war (inzwischen zu wenig Zeit, wegen Kind) zudem auch semi-professioneller Musiker. Ich kann also auch etwas zur "Künstlerperspektive" beitragen.

Ich stimme zwar zu, dass die KI eine große Gefahr für Künstlerinnen und Künstler (aber nicht nur für die, sondern auch für andere Berufsgruppen) darstellt, und dass alles dafür getan werden sollte, dass die wertvolle Arbeit von Künsterinnen und Künstlern vor der kompletten Übernahme durch KI geschützt wird.

Sprich: wenn Unternehmen - z.B. in der Musik- oder Filmbranche - KI einsetzen, statt echte Künstlerinnen und Künstler zu beschäftigen, dann habe ich damit ein sehr großes Problem.

Dezidiert anders sehe ich das allerdings im Hobby-Bereich. Wenn z.B. eine BG-Modderin oder ein BG-Modder sich der KI bedient, um ihre oder seine Mod in irgendeiner Art und Weise zu verbessern, dann sehe ich nicht, wieso das ein Problem darstellen sollte. Es ist ja nicht so, dass dadurch irgendjemandem etwas weggenommen wird. Gäbe es die KI nicht, dann würde ein Hobby-Modder ohne Budget ja auch keinen professionellen voice actor oder Zeichner für Portraits engagieren.

Wenn jemand aus der community eine Mod nur deshalb boykottiert, weil eine KI zur Erstellung der Mod verwendet wurde, dann finde ich das wirklich überzogen und ich kann mir nicht vorstellen, dass allzu viele Menschen so denken.

Noch zur Vertonung: Ich sehe zwar die Problematik, die entsteht, wenn Stimmen von echten Menschen durch KI nachgeahmt werden, aber auch hier würde ich mich letztendlich dazu entscheiden, dass es OK wäre, im Modding-Bereich davon Gebrauch zu machen und zwar aufgrund folgender Überlegeungen:

1. Selbes Argument wie oben: im Hobby-Bereich geht hier keine Beschäftigung verloren. Keine/r der orginalen BG2-Sprecherinnen und Sprecher würde jemals von einer Mod-Autorin oder einem Mod-Autor engagiert werden.

2. Zum Respekt vor den Sprecherinnen und Sprechern: Nehmen wir mal an, ich könnte die Stimme des Sprechers von Minsk nahezu perfekt nachahmen (es gibt ja Leute, die das können) und dann ein paar Textzeilen als "Minsk" vertonen. Wäre das denn so viel anders als wenn ich die Stimme mit einer KI nachbaue? Würde ich mich hier nicht in beiden Fällen des Erstellens eines "Deepfakes" (ich bin der Meinung, der Begriff passt für sowas sowieso nicht) schuldig machen? Wenn man also mit Ersterem kein Problem hat (und das habe ich nicht), dann denke ich, sollte das auch für das Zweite gelten.

EDIT: 3. Eine durch KI erstellte Vertonung eines fiktionalen Charakters ist ein anderer Sachverhalt, als der Deepfake der echten Person, der dann womöglich noch zum Schaden der betroffenen Person verbreitet wird. Die Frage nach dem Urheberrecht einer durch eine KI erzeugte Stimme, die der Stimme einer realen Person stark ähnelt, ist selbstverständlich zu bedenken. Allerdings sehe ich hier im Hobby-Bereich wie dem Modding kein allzugroßes Problem. Falls es zu Beschwerden deswegen kommt, sollten die so erstellten Audios wieder entfert werden. Das würde eine Mod auch nicht unbrauchbar machen.

Meine Grenze wäre dann erreicht, wenn z.B. Beamdog eine KI verwenden würde, um ihre Enhanced Editions weiter zu vertonen. Das verlässt den Hobby-Bereich und hier sollten meiner Meinung nach dann auch echte Menschen beschäftigt werden.

 

[Jastey]

AI generierte Inhalte, die kein Deepfake sind - kann ich akzeptieren (ob sie mir gefallen ist eine andere Sache).
Aber

Wo kein Kläger, da kein Richter.

Das ist kein Kriterium.
Genau das hat IE Modding Jahr(zehnt)e lang gemacht, vor allem mit Portraits, mit Area Art aus anderen Spielen. Leider gibt es jetzt vor allem im letzteren Bereich wieder neue Mods, die sich schamlos an Gebietsgraphiken kommerzieller Spiele bedienen. Aber generell hat die Moddingszene diese Copyright geschützten Inhalte aus älteeren Mods entfernt, sowohl hier auch bei G3 ist die entsprechende Policy eindeutig.
Stimmen von Voiceactors mit AI nachzumachen ist Deepfake, und damit nicht akzeptabel.

 

[Sirius]

AI generierte Inhalte, die kein Deepfake sind - kann ich akzeptieren (ob sie mir gefallen ist eine andere Sache).
Aber

Das ist kein Kriterium.
Genau das hat IE Modding Jahr(zehnt)e lang gemacht, vor allem mit Portraits, mit Area Art aus anderen Spielen. Leider gibt es jetzt vor allem im letzteren Bereich wieder neue Mods, die sich schamlos an Gebietsgraphiken kommerzieller Spiele bedienen. Aber generell hat die Moddingszene diese Copyright geschützten Inhalte aus älteeren Mods entfernt, sowohl hier auch bei G3 ist die entsprechende Policy eindeutig.
Stimmen von Voiceactors mit AI nachzumachen ist Deepfake, und damit nicht akzeptabel.

Du hast natürlich Recht. Selbstverständlich sollte man keine Copyright geschützten Inhalte in Mods verbauen. Aber genau das macht die KI ja nicht. Die KI generiert auf der Basis von Trainingsdaten neue Inhalte (mir ist bewusst, dass es auch hierzu noch viele ungeklärte Fragen gibt).

Punkt 3 ist aber tatsächlich etwas flapsig formuliert. Dafür entschuldige ich mich. Ich wollte nicht behaupten, dass es OK ist, das Urheberrecht zu verletzen, nur weil niemand dagegen klagt.

Der Punkt bezog sich ausschließlich auf die Frage, ob es vertretbar ist, mit von KI generierten Stimmen zu arbeiten, die den Originalsprecherinnen und Sprechern nahe kommen.

Für das Spiel Gothic gibt es offenbar schon eine Software, die sowas kann. Auf YouTube gibts einige Gothic-Fan-Kanäle, die mt den Stimmen der Originalsprecher ganz witzige Dinge machen.

Vielleicht habe ich in dem Fall ein verkehrtes Unrechtsempfinden, aber ich finde, dass das für Hobby-Projekte wie Mods zumindest kein großes Problem ist.

Oben hast du auch folgendes geschrieben und in diese Richtung gehen auch meine Gedanken zu dem Thema:

Hier also zum Beispiel Jaheira mehr gesprochene Zeilen mit der Stimme der Sprecherin zu geben bedeutet für mich erstmal nicht, die Sprecherin zu deepfaken, da es nicht um die Sprecherin als Person geht, sondern eben Jaheira mehr sagen zu lassen.

Hast du deine Position in der Zwischenzeit geändert? Vielleicht magst du mir ja deine Gedanken dazu erläutern, dann bin ich nachher hoffentlich wieder etwas schlauer.

 

[Jastey]

Hast du deine Position in der Zwischenzeit geändert?

Ja, das habe ich. Ich meinte den Satz mit Jaheira durchaus ernst damals. Aber ich komme immer wieder dahin zurück, dass es Deepfake wäre. Und da bin ich auch im RL zu rechtschaffen, um zu sagen: ist ja nur für ein unbezahltes Hobbyprojekt. Mir würde da ein "OK" der Voiceactor sehr helfen. Ohne ist mir das Grau zu dunkel.
Vor allem, weil es immer mehr Modder gibt, die eben doch über Patreon z.B. ein bisschen Geld für ihre Arbeit generieren. Ja, es werden keine Mods verkauft, aber es verwischt alles etwas.

 

[Sirius]

Ja, das habe ich. Ich meinte den Satz mit Jaheira durchaus ernst damals. Aber ich komme immer wieder dahin zurück, dass es Deepfake wäre. Und da bin ich auch im RL zu rechtschaffen, um zu sagen: ist ja nur für ein unbezahltes Hobbyprojekt. Mir würde da ein "OK" der Voiceactor sehr helfen. Ohne ist mir das Grau zu dunkel.
Vor allem, weil es immer mehr Modder gibt, die eben doch über Patreon z.B. ein bisschen Geld für ihre Arbeit generieren. Ja, es werden keine Mods verkauft, aber es verwischt alles etwas.

Vielen Dank für die Erklärung. Das ist alles schlüssig. Ich bin auch kein Fan von Deepfakes. Ich mache mir eher ernsthafte Sorgen darüber, was da noch auf uns zukommt.

Ich bin aber noch immer unschlüssig, ob man in dem von mir beschriebenen Fall von einem Deepfake sprechen kann.

Das Oxford Dictionary definiert "Deepfake" so:

"Any of various media, esp. a video, that has been digitally manipulated to replace one person's likeness convincingly with that of another, often used maliciously to show someone doing something that he or she did not do."

Es geht dabei ja letztendlich darum, ein Publikum zu belügen, indem man so tut, als ob eine Person eine andere sei.

Wenn ich nun für eine Mod eine KI-Stimme erzeuge, die ähnlich wie die Sprecherin von Jaheira klingt und dann in der Mod-Beschreibung erkläre: "Die deutsche Vertonung für Jaheira wurde mithilfe des KI-Tool xyz erstellt. [...]", dann ist das für mich etwas qualitativ anderes als das, was man typischerweise unter einem Deepfake versteht.