Generative KI: Gesetzgebung oder Selbstregulierung?

Generative KI birgt sowohl Versprechen als auch Risiken für globale Marken. Einfach definiert, erstellt generative KI verschiedene Arten von Inhalten wie Text, Bilder und Audio. Grundlage bilden Sprachmodelle für maschinelles Lernen, die mit enormen Datenmengen trainiert wurden. Die Ergebnisse von generativer KI sind von Menschen erstellten Inhalte täuschend ähnlich.

Generative KI wurde durch neue Tools wie ChatGPT zu einem Massenphänomen. Neueste Versionen versprechen, ganze Wirtschaftsbereiche zu revolutionieren. Gleichzeitig schwebt das Schreckgespenst der Regulierung über der breiten Einführung von KI. Hintergrund: Die Regierungen suchen nach einem „Verantwortungsmechanismus” für diese Technologie.

Dr. Mukesh Dalal, ein Experte für künstliche Intelligenz und maschinelles Lernen, entwickelt Geschäftsanwendungen mit generativer KI. Er sprach in einer von Abhishek Tyagi veranstalteten GLG Telefonkonferenz über die geschäftlichen und regulatorischen Auswirkungen der generativen KI und seine Prognosen. Es folgt eine Zusammenfassung der Diskussion.

Können Sie uns Einblicke in entstehende KI-Geschäftsmodelle geben?

Der KI stehen mehr Daten zur Verfügung, während die Rechenkosten sinken. Das lässt viele Unternehmen aufhorchen. Marken und Anbieter, die eigentlich keine typischen KI-Akteure sind, erweitern ihre Angebote um KI-Funktionen. Hardwarehersteller wie NVIDIA und Qualcomm entwickeln Hardware für KI-Anwendungsfälle. Public-Cloud-Anbieter wie Amazon und Microsoft fügen KI zu ihren aktuellen Diensten hinzu und entwickeln neue KI-basierte Dienste. Datenbankhersteller wie Microsoft und Snowflake verbessern die Datenfunktionen zur Unterstützung von Anwendungsfällen.

Neue Anbieter schaffen auch KI-spezifische Angebote. Databricks entwickelt Datendienste für KI, während Snorkel es den Menschen ermöglicht, KI-Trainings-Sets zu kennzeichnen. Unternehmen wie OpenAI entwickeln Allzweck- und vortrainierte Modelle wie GPT und Siemens entwickelt branchenspezifische Modelle.

Welche Risiken bestehen in Bezug auf geistiges Eigentum (IP) und Plagiate bei generativer KI-Technologie?

Eines der größten Risiken ist, dass Musik, Videos oder Textartikel urheberrechtlich geschütztem Material sehr ähnlich sein können. Das ist ein klarer Verstoß gegen die Urheberrechtsgesetze. Ein weiterer Bereich sind Haus- und Studienaufgaben, die Schüler oder Studierende mit generativen KI-Systemen erledigen.

Gibt es neue Lösungen für dieses Problem, und was sind die Herausforderungen bei KI mit Wasserzeichen?

Mit Wasserzeichen könnte man theoretisch erkennen, ob ein Inhalt von einer KI generiert wurde. Die Schwierigkeiten sind aber vielfältig und die meisten Leute glauben, dass sie unlösbar sind. Es ist nicht möglich, alle KI-generierten Inhalte mit einem sicheren Wasserzeichen zu versehen. Die Verifizierungs-Technologien werden sich zwar weiterentwickeln, die Menschen, die diese austricksen, aber ebenfalls. Es ist ein Katz-und-Maus-Spiel ohne perfekte Lösung.

Eine andere Lösung ist die Offenlegung, das heißt: Wenn Sie generative KI-Inhalte verwenden, müssen Sie diese offenlegen. Wenn dies vorgeschrieben wird, könnte es funktionieren. Aber es wird immer Leute geben, die dagegen verstoßen und unentdeckt bleiben.

Können Sie über einige der aktuellen KI-Vorschriften in den USA sprechen?

Die US-Regierung zögert, Vorschriften zu erlassen, die die KI-Innovation bremsen oder die USA im Vergleich zu Ländern wie China in eine schwächere Position bringen könnten. Deshalb werden die KI-Vorschriften in den USA von den Bundesstaaten vorangetrieben. Kalifornien ist führend bei der Regulierung der generativen KI. Es gibt Vorschriften für bestimmte Funktionen wie die Gesichtserkennung, die in einigen Bundesstaaten der USA verboten ist.

Ein weiteres Beispiel ist ChatGPT, das in den Schulen von New York City verboten ist. Allerdings ist nicht klar ist, wie lange das noch gilt, da einige Pädagogen behaupten, ChatGPT könne ein leistungsfähiges Werkzeug im Lernkontext sein. Mehrere Hochschulen fördern sogar die Verwendung von ChatGPT.

Wie bewerten Sie das EU-Gesetz über künstliche Intelligenz?

Die Europäische Union schafft Vorschriften, die in allen EU-Ländern gelten sollen. Die Grundzüge des AI Acts wurden im Dezember 2022 verabschiedet, aber Länder wie Deutschland wollen Verbesserungen. Es ist nicht klar, wie schnell das Gesetz umgesetzt werden kann. Zwei europäische Normungsorganisationen werden den AI Act konkretisieren, damit er angewendet werden kann.

Bestimmte Anwendungen werden stark reguliert sein. Nehmen wir an, ein Unternehmen setzt KI ein, um Stellenbewerber zu scannen. Das kann zu Verzerrungen führen und bestimmte Bewerber benachteiligen. Das sollten wir verhindern.

Umfasst das KI-Gesetz auch Herausforderungen für alle generativen KI-Segmente wie Bilder, Texte und Kunstwerke?

Die Entwicklung der generativen KI ist schneller vorangeschritten, als es der AI Act vorsah. Es hat ChatGPT nicht vorausgesehen. Einige Risiken werden durch dieses KI-Gesetz nicht abgedeckt, könnten aber vom Normungsgremium aufgenommen werden, wenn es die Details ausgearbeitet hat. Das Gesetz wird sich weiterentwickeln müssen, um eine Reihe von Risiken abzudecken.

Welche Art von Regulierung ist erforderlich, wenn man verschiedene Sektoren und Anwendungen vergleicht?

Dies ist ein kontroverses Thema. Die Experten sind geteilter Meinung. Es gibt mehrere bestehende Vorschriften zur Produktsicherheit und Verleumdung, die wir auf KI anwenden sollten. Es wäre ideal, zunächst die bestehenden Vorschriften zu nutzen.

Es gibt Fälle, in denen auf der Grundlage geltender Vorschriften neue Probleme entstanden sind. Abschnitt 230 des US-Kommunikationsgesetzes zum Beispiel schützt Internetplattformen davor, als Verleger behandelt zu werden. Das ist ok. Aber wenn ich als Nutzer etwas Diffamierendes über jemanden auf Facebook poste, trage ich die rechtliche Verantwortung – Facebook ist fein raus, weil es eben kein Verlag ist. Das muss überarbeitet werden.

Wie sehen Sie die Auswirkungen von KI-Technologien auf den Wirtschaftsprüfungsmarkt?

KI ist für Unternehmen eindeutig sowohl ein Enabler als auch ein Risiko. Je mehr Unternehmen KI einsetzen, desto größer wird das Risiko. Es wird wichtig sein zu verstehen, wie stark ein Unternehmen dem Risiko ausgesetzt ist und wie es dieses abmildern kann. Das deutet darauf hin, dass die KI-Audit-Branche wachsen wird, und zwar nicht nur für die KI, sondern auch für Daten. Der Prüfungsumfang wird die Daten umfassen, die zur Steuerung von KI-Anwendungen verwendet werden.

Finanzprüfer, die bereits Experten für die Prüfung sind, werden KI hinzufügen. KI könnte der am schnellsten wachsenden Bereiche ihres Geschäfts werden. Deloitte und PricewaterhouseCoopers, die aufgrund ihres Beratungsgeschäfts in der Datennutzung und KI bereits weit fortgeschritten sind, könnten führend werden. Andere Wirtschaftsprüfer wie EY und KPMG werden ihr Geschäft weiterentwickeln und sich auf KI- und Datenprüfungen konzentrieren.

Wie beurteilen Sie den Wandel in der Medien- und Unterhaltungsindustrie durch generative KI?

Generative KI wird enorme Umwälzungen verursachen. Medien- und Unterhaltungsunternehmen sind darauf angewiesen, neue Inhalte zu generieren, z. B. neue Filme, Drehbücher und Songs. Diese Inhalte werden seit jeher von vielen Fachleuten erstellt, und die Branche wird dafür gut bezahlt. In der Vergangenheit haben auch Nichtprofis Inhalte erstellt, aber die Qualität war gering. Mein Heimvideo, das ich auf YouTube eingestellt habe, ist nicht mit einem Spielberg-Film zu vergleichen.

Mit generativer KI verbessert sich die Qualität rasch und manchmal ist es schwer, sie von professionellen Inhalten zu unterscheiden. Die Kosten für KI-Tools werden sinken. Es könnten weniger Fachleute und Künstler beschäftigt werden, die dann aber besser bezahlt würden. In den nächsten Jahren ist mit massiven Umwälzungen zu rechnen.

Welche wirksamen Lösungen gibt es für die Bedrohung, die diese Technologie für Künstler darstellt?

Künstler werden Wege finden müssen, um Wertschätzung und ihre Arbeitsplätze zu erhalten. Sie könnten sich auf andere Arten von Inhalten konzentrieren, bewerben oder auch ihre Produktivität steigern. Wenn die Einnahmen pro Einheit sinken, kann man das durch mehr Volumen wieder wettmachen. Jeder Künstler, der heute zehn Inhalte oder zehn Videos produziert, könnte Tausende von Inhalten pro Jahr erstellen.

Wie sehen Sie die aufstrebenden Akteure?

Ich erwarte, dass Cloud-Anbieter weiterhin KI-basierte umsatzsteigernde Dienste anbieten oder bestehende Dienste mit KI ergänzen werden. Unternehmen wie Amazon, Google und Microsoft werden von der Einführung von KI profitieren. Sie werden KI in ihren Clouds einsetzen und kurzfristige Vorteile haben. Andere Organisationen mit kurzfristigen Vorteilen sind Unternehmen wie OpenAI, die die Tools zur Erstellung und Bereitstellung von KI-Funktionen auf den Markt bringen. Datenunternehmen können KI und die Datenwolke nutzen und werden mit den derzeitigen öffentlichen Cloud-Anbietern konkurrieren. Es sind Unsicherheiten mit diesen Modellen verbunden: Sie werden sich weiterentwickeln, aber es ist unklar, wer sich durchsetzen wird.

Es wird eine wilde Fahrt. Die Vorschriften werden zunehmen, und die Risiken werden steigen. Kurzfristig werden wir nicht wissen, wie wir mit den Risiken umgehen sollen. Was aber sicher ist: Wenn wir in fünf Jahren zurückblicken, werden wir uns über das Wachstum wundern, das durch die KI ausgelöst wurde.

---

Über Dr. Mukesh Dalal

Dr. Mukesh Dalal ist Experte für KI und maschinelles Lernen sowie Gründer und CEO von AIDAA, das sich auf die Entwicklung von Geschäftsanwendungen mit GPT-3 und DALL-E-2 konzentriert. Zuvor war er Chief AI Officer und leitete die Analytik- und Automatisierungsstrategie bei Stanley Black & Decker Inc. Er war Global Head of AI & Data und Chief Analytics Officer bei der Bose Corporation. Davor war er Principal Scientist bei Charles River Analytics Inc. und leitete die Forschung und Entwicklung im Bereich Data Science und maschinelles Lernen als Chief Scientist bei BAE Systems. Mukesh war außerdem Chief Executive Officer bei Big Data und Chief Architect und Wissenschaftler bei Webtrends. Mukesh hat einen Doktortitel in künstlicher Intelligenz.

---

Dieser Artikel basiert auf der GLG-Telekonferenz “Regulierung generativer KI: Gesetzgeberische Maßnahmen oder Selbstregulierung der Industrie?”. Wenn Sie Zugang zum Protokoll dieser Veranstaltung wünschen oder mit Experten aus der Technologiebranche wie Mukesh Dalal oder einem unserer mehr als 1 Million Branchenexperten sprechen möchten, kontaktieren Sie uns.

---

Fragen, die während der Telefonkonferenz gestellt wurden:

• Können Sie einen Einblick in einige der aufkommenden KI-Geschäftsmodelle geben?
• Wie sehen Sie die mittel- bis langfristige Nachhaltigkeit dieser Geschäftsmodelle?
• Was sind die Risiken für geistiges Eigentum und Plagiaten? Sehen Sie dies als eine Bedrohung für die generative KI-Technologie insgesamt?
• Gibt es neue Lösungen, die helfen können, solche Probleme zu lösen? Was sind die Herausforderungen bei KI-Lösungen mit Wasserzeichen?
• Könnten Sie über einige der aktuellen Vorschriften sprechen, die Sie für KI in den USA sehen?
• Wie bewerten Sie das EU-Gesetz über künstliche Intelligenz?
• Kann der EU AI Act die Herausforderungen angehen, die sich in allen generativen KI-Segmenten (Bild, Text, Kunstwerke usw.) ergeben?
• Was sind die Vor- und Nachteile der verschiedenen Ansätze, die von den unterschiedlichen Regierungsstellen verfolgt werden?
• Welche Art der Regulierung ist erforderlich, wenn man verschiedene Sektoren und Anwendungen vergleicht – gesetzgeberische Maßnahmen oder Selbstregulierung der Industrie?
• Welche Auswirkungen haben die Technologien der künstlichen Intelligenz auf den KI-Wirtschaftsprüfungsmarkt?
• Was könnte ein Wettbewerbsvorteil sein, wenn man sich die Landschaft und die wichtigsten Akteure auf dem KI-Wirtschaftsprüfungsmarkt ansieht?
• Welche Verwerfungen wird es in der Medien- und Unterhaltungsindustrie Ihrer Meinung nach durch die generative KI geben?
• Was sind einige der effektiven Lösungen für die Bedrohung, die diese Technologie für Künstler darstellt, angesichts der Zunahme von generativen Bildern, Synthese- und Sprachtechnologien?
• Sind die Unternehmen auf eine erfolgreiche Implementierung von generativer KI vor dem Hintergrund der damit verbundenen Risiken vorbereitet?
• Wie sieht Ihr kurz- bis mittelfristiger Ausblick auf aufstrebende Akteure und die Nachhaltigkeit von Geschäftsmodellen angesichts der Herausforderungen der Branche aus?