WEBVTT

00:00:00.160 --> 00:00:03.160
Die Diskussion über

00:00:03.440 --> 00:00:05.166
die aktuellen
Auswirkungen

00:00:05.220 --> 00:00:07.913
der künstlichen Intelligenz
in der heutigen Zeit

00:00:07.987 --> 00:00:09.427
ist sehr wichtig,

00:00:10.560 --> 00:00:14.520
denn sie ist eine
der wahrscheinlich schlimmsten

00:00:14.639 --> 00:00:17.639
technologischen
Innovationen

00:00:17.700 --> 00:00:19.846
der letzten 30 Jahren,
meiner Meinung nach.

00:00:20.359 --> 00:00:22.159
Weil es
alles hat,

00:00:22.200 --> 00:00:25.920
ist es alles, was an der modernen,
kapitalistischen Technologie falsch ist.

00:00:26.400 --> 00:00:30.000
Es ist ein System, das den
Informationsfluss behindert

00:00:31.000 --> 00:00:33.040
und die Kommunikation
erschwert.

00:00:33.040 --> 00:00:35.166
Es verstärkt
Fehlinformationen.

00:00:35.400 --> 00:00:38.360
Es hat unglaubliche
Auswirkungen

00:00:38.400 --> 00:00:41.566
auf die Infrastruktur
des Internets,

00:00:41.627 --> 00:00:43.940
einfach wegen der enormen
Rechenleistung, die es benötigt.

00:00:44.080 --> 00:00:45.880
Es hat eine
schreckliche

00:00:46.840 --> 00:00:48.640
Umweltbilanz.

00:00:48.640 --> 00:00:51.640
All diese neuen Rechenzentren,
 deren Bau vorgeschlagen wurde.

00:00:51.873 --> 00:00:54.973
Die Idee, dass Unternehmen
eigene Kernreaktoren

00:00:55.013 --> 00:00:58.013
zur Stromversorgung von
Rechenzentren haben, ist wirklich...

00:00:58.546 --> 00:00:59.660
macht mich krank.

00:01:01.253 --> 00:01:02.760
Dieser Prozess
ist nicht neu.

00:01:02.840 --> 00:01:06.000
Dies ist sehr ähnlich wie bei
der Zentralisierung und den Monopolen.

00:01:06.000 --> 00:01:08.000
die moderne
Technologie aufweist,

00:01:08.067 --> 00:01:10.133
aber auf eine Weise
die explodiert

00:01:11.320 --> 00:01:13.246
und lächerlich ist.

00:01:14.280 --> 00:01:16.160
Und es ist sehr
mysteriös.

00:01:16.160 --> 00:01:18.560
Wie bei vielen
technologischen Systemen

00:01:18.660 --> 00:01:21.640
sehen die Leute es und es
fehlt ihnen das Wissen

00:01:21.640 --> 00:01:24.640
oder wissen nicht, dass sie überhaupt
wissen können, wie das funktioniert.

00:01:24.920 --> 00:01:27.640
Sie sehen diesen mysteriösen
Chatbot, mit dem man spricht,

00:01:27.640 --> 00:01:30.640
mit dem man chatten kann, und er
antwortet als wäre er ein Mensch.

00:01:31.440 --> 00:01:34.440
Ich kann verstehen, warum man es,
wenn man nicht über das Wissen verfügt,

00:01:34.553 --> 00:01:39.720
ganz abstrakt als diese magische Box
ansieht, mit der man sprechen kann.

00:01:40.320 --> 00:01:41.520
Das war also
der Ursprung.

00:01:41.626 --> 00:01:45.360
Und dann gibt es noch die zusätzliche
Ebene der Idee von Arbeit

00:01:45.360 --> 00:01:50.240
und Reproduktion von Arbeit,
davon, wie diese KI-Systeme

00:01:50.453 --> 00:01:53.853
einen großen Einfluss auf die Arbeit
und die Ausbeutung von Arbeit haben.

00:01:56.266 --> 00:02:00.566
Die versteckte Arbeit hinter
Künstlicher Intelligenz (KI)

00:02:00.680 --> 00:02:03.560
Viele der
Ergebnisse

00:02:03.560 --> 00:02:06.560
eines modernen
KI-Tools

00:02:07.040 --> 00:02:09.233
beruhen nicht

00:02:09.480 --> 00:02:14.280
auf magischen technologischen
Fortschritten beruhen.

00:02:15.180 --> 00:02:17.060
Die Technologie
gibt es

00:02:17.133 --> 00:02:20.160
seit etwa
15 Jahren.

00:02:20.260 --> 00:02:23.160
Die moderne
Künstliche Intelligenz.

00:02:23.719 --> 00:02:26.719
Es handelt sich dabei lediglich um
ausgefeilte Auto-Vervollständigung.

00:02:26.820 --> 00:02:29.900
Wenn du also einen Text
in dein Telefon eingibst

00:02:29.960 --> 00:02:32.580
und das Feld siehst, das dir
das nächste Wort vorschlägt,

00:02:32.646 --> 00:02:34.560
– das ist es
im Grunde genommen!

00:02:34.633 --> 00:02:36.806
Es ist nur ausgefeilter
und größer.

00:02:36.853 --> 00:02:39.846
Das Hauptmerkmal
moderner KI

00:02:39.920 --> 00:02:44.040
das Wissen, das sie hat, 
und ihre Fähigkeit,

00:02:44.093 --> 00:02:47.093
auf diese unheimliche Weise 
wie ein Mensch zu sprechen,

00:02:47.167 --> 00:02:48.767
kommt durch 
Training zustande.

00:02:49.560 --> 00:02:52.560
Was ist Training
bei einer KI?

00:02:53.640 --> 00:02:56.240
Es ist nicht wie das Lernen
bei Menschen ist.

00:02:56.333 --> 00:03:00.320
KI ist nicht wirklich... sie hat
nichts Intelligentes an sich.

00:03:00.880 --> 00:03:03.960
Was sie tut, ist, eine enorme
Menge an Daten aufzunehmen.

00:03:04.320 --> 00:03:08.453
Wir sprechen hier von der Größenordnung
aller jemals geschriebenen Bücher,

00:03:08.939 --> 00:03:10.659
die gesamte
Wikipedia,

00:03:10.760 --> 00:03:14.400
jede einzelne Nachricht, die
jemals in einem Forum gepostet wurde.

00:03:14.500 --> 00:03:17.320
seit es das
Internet gibt,

00:03:17.393 --> 00:03:20.500
alles in diesen gigantischen 
Algorithmus eingespeist,

00:03:20.940 --> 00:03:22.440
der anfängt 
abzugleichen:

00:03:22.440 --> 00:03:24.440
Oh, dieses Wort kommt
wieder nach diesem Wort,

00:03:24.440 --> 00:03:27.600
wenn dieses Wort dahinter war.
- Das ist es im Grunde genommen!

00:03:27.840 --> 00:03:30.386
Es kann wie ein 
Mensch sprechen,

00:03:30.432 --> 00:03:33.220
weil es Milliarden menschlicher
Nachrichten gelesen hat.

00:03:34.640 --> 00:03:38.600
Die Frage lautet also: Okay, 
du hast das System trainiert.

00:03:38.680 --> 00:03:42.720
Wie stellst du jetzt sicher,
dass es gute Ergebnisse liefert?

00:03:43.120 --> 00:03:45.433
Was meine ich
mit „guten Ergebnissen”?

00:03:46.386 --> 00:03:50.640
Moderne KI-Unternehmen wollen, 
dass die sogenannten „Agenten”

00:03:50.640 --> 00:03:54.480
eine „Persona” haben, 
eine Persönlichkeit.

00:03:54.960 --> 00:03:59.560
Sie sollen freundlich, immer
fröhlich und sehr unterwürfig sein.

00:03:59.615 --> 00:04:01.375
Wenn man sie bittet,
etwas zu tun,

00:04:01.400 --> 00:04:03.820
wird es das immer tun,
 ohne Fragen zu stellen.

00:04:04.213 --> 00:04:06.546
Sie sollen sehr nützlich
und sehr produktiv sein.

00:04:07.640 --> 00:04:11.086
Und sie sollen auch nichts 
sagen, was gefährlich ist.

00:04:11.526 --> 00:04:15.080
Wenn du ChatGPT fragst: „Hey, kannst
du mir helfen, eine Bombe zu bauen?“

00:04:15.327 --> 00:04:17.842
Dann wir es sagen: „Dabei 
kann ich dir nicht helfen.“

00:04:17.866 --> 00:04:19.286
Das kommt nicht 
aus dem Training.

00:04:19.326 --> 00:04:22.160
Das kommt aus einer
zusätzlichen Ebene darüber.

00:04:22.680 --> 00:04:24.140
Wie macht man das?

00:04:24.920 --> 00:04:29.000
Man kann das nicht einfach
von einem Programm machen lassen.

00:04:29.080 --> 00:04:32.480
Irgendwann muss ein Mensch
die Ergebnisse der Text-Bots überprüfen

00:04:32.573 --> 00:04:35.640
und sagen: „Okay, dieses
Ergebnis sieht gut aus.

00:04:35.680 --> 00:04:36.840
Es ist nicht schädlich.

00:04:36.926 --> 00:04:39.333
Dieses Ergebnis ist sehr 
schädlich. - Mach das nicht!“

00:04:39.680 --> 00:04:43.840
Und dieses System heißt
"bestärkendes Lernen".

00:04:44.200 --> 00:04:46.926
Es ist so wie wenn du 
deinen Hund trainierst.

00:04:47.180 --> 00:04:49.360
Es gibt positives Feedback.
und negatives Feedback.

00:04:49.453 --> 00:04:52.273
Wenn du die Nachricht liest
und der Bot antwortet

00:04:52.313 --> 00:04:54.920
auf die Frage: „Hey,
kannst du mir helfen, eine Bombe zu bauen?“

00:04:54.920 --> 00:04:57.646
indem er dir die Zutaten nennt,
dann gibt es schlechtes Feedback.

00:04:57.720 --> 00:05:01.640
Ein Mensch muss auf den „schlecht”-
Knopf drücken, dann geht es weiter.

00:05:03.840 --> 00:05:06.960
Wie du dir vorstellen kannst,
ist ein Großteil dieser Arbeit

00:05:07.960 --> 00:05:10.880
und es ist eine Menge Arbeit,
 weil dies nicht nur

00:05:10.880 --> 00:05:14.400
einmal oder zehn Mal getan werden muss,
sondern tausende und tausende

00:05:14.400 --> 00:05:18.720
und tausende Male, um das 
Modell ausreichend zu trainieren

00:05:19.440 --> 00:05:20.760
Und das gilt nicht
nur für Text.

00:05:20.760 --> 00:05:24.000
Es geht um jedes Video sein,
das jemals aufgenommen wurde,

00:05:24.360 --> 00:05:27.120
jedes Bild, alles,
jedes Audiostück.

00:05:27.120 --> 00:05:30.233
Man muss erstens prüfen, 
ob das Erfgebnis gut ist,

00:05:30.333 --> 00:05:32.533
Aber auch 
die Eingaben.

00:05:33.480 --> 00:05:36.480
Manchmal nehmen Unternehmen jeden 
einzelnen Film, der jemals gedreht wurde,

00:05:37.067 --> 00:05:40.715
um eine KI dafür zu trainieren,
dass sie Videos generiert.

00:05:41.040 --> 00:05:44.440
Man muss der KI sagen, dass
dieses Video, sagen wir mal,

00:05:44.680 --> 00:05:47.680
dieses Video ist,

00:05:48.240 --> 00:05:51.746
ein Film über
...irgendetwas.

00:05:51.859 --> 00:05:54.386
Ein Mensch muss das Video 
anschauen und es labeln.

00:05:55.440 --> 00:05:58.906
Das Labeln und das bestärkende Lernen
muss von Menschen gemacht werden.

00:05:59.040 --> 00:06:05.080
Und was Unternehmen tun, ist,
sie verlagern diese Arbeit

00:06:05.286 --> 00:06:07.840
in den meisten Fällen
in den globalen Süden.

00:06:08.520 --> 00:06:11.040
Es gibt also diese
Unternehmen,

00:06:11.040 --> 00:06:13.966
Aberhunderte von 
Menschen anstellen,

00:06:14.060 --> 00:06:17.068
die zu Rädchen in der 
Trainingsmaschine werden.

00:06:17.600 --> 00:06:21.793
Ihre Aufgabe besteht darin, Tag für 
Tag vor einem Computer zu sitzen

00:06:21.893 --> 00:06:26.440
und Tausende und Tausende
von Texten, Videos

00:06:26.880 --> 00:06:31.360
und Bildern anzuschauen, um sie zu labeln
oder um die Maschine zu trainieren.

00:06:32.000 --> 00:06:36.066
Diese Arbeit ist
extrem ausbeuterisch,

00:06:36.166 --> 00:06:39.306
denn es ist der globale Süden, also 
zahlt man den Menschen nicht viel.

00:06:39.480 --> 00:06:43.200
Die psychische und emotionale
Belastung ist sehr hoch,

00:06:43.440 --> 00:06:47.020
weil das Training meist dazu 
dient, sicherzustellen,

00:06:47.120 --> 00:06:49.880
dass die KI keine schlechten 
Ergebnisse liefert.

00:06:50.160 --> 00:06:51.886
Man muss also

00:06:51.920 --> 00:06:55.600
schrecklichen Texte
darüber lesen, wie die KI...

00:06:55.699 --> 00:06:58.800
Die Frage lautet z.B.: „Kannst du mir 
sagen, wie man eine Leiche vergräbt?“

00:06:58.860 --> 00:07:03.520
Und du musst dir Texte ansehen 
darüber, wie das gemacht wird.

00:07:03.560 --> 00:07:06.126
Das ist eine große
psychische Belastung.

00:07:06.720 --> 00:07:07.960
Und das ist nur
eine Seite.

00:07:07.960 --> 00:07:10.493
Es gibt viele andere Systeme, 
die benötigt werden

00:07:10.580 --> 00:07:12.447
damit die moderne
KI funktioniert

00:07:12.613 --> 00:07:16.273
die für den Endnutzer so
gut wie unsichtbar sind.

00:07:16.480 --> 00:07:20.040
Wie bei allem Kapital
sind die Produktionsmittel

00:07:20.040 --> 00:07:23.680
vom Arbeiter entfremdet, aber
auch das Produkt selbst ist entfremdet.

00:07:23.680 --> 00:07:27.560
Du weißt nicht einmal,
wie wir an den Punkt gekommen sind,

00:07:27.680 --> 00:07:32.560
an dem man einem Chatbot sagen kann: „Hey,
kannst du mir beim Kochen helfen?“

00:07:33.080 --> 00:07:36.480
Es gab eine so lange Reihe,
angefangen von der Person,

00:07:36.480 --> 00:07:40.480
die das Rezept geschrieben hat, das
dann ins Internet gestellt wurde,

00:07:40.880 --> 00:07:43.680
dann gab es eine*n 
Programmierer*in

00:07:43.767 --> 00:07:47.256
der/die das System entwickelt hat, 
um diese Daten illegal zu stehlen.

00:07:47.280 --> 00:07:50.520
Es gab andere Menschen
im globalen Süden,

00:07:51.147 --> 00:07:54.187
die diese Ergebnisse labeln mussten. -
Und das ist einfach versteckt.

00:07:55.739 --> 00:07:57.859
Man weiß nicht einmal,
dass es da ist.

00:07:58.000 --> 00:08:01.380
Und es gab
Berichte darüber,

00:08:01.499 --> 00:08:05.080
über das Labeln 
und das Training

00:08:05.160 --> 00:08:06.906
 durch Menschen aus 
dem globalen Süden.

00:08:08.280 --> 00:08:11.360
Es gab kaum
Reaktionen darauf,

00:08:11.840 --> 00:08:14.920
denn es ist sehr ähnlich
wie andere moderne Internetsysteme

00:08:14.920 --> 00:08:17.920
die ausbeuterische Arbeit
aus dem globalen Süden nutzen.

00:08:19.500 --> 00:08:22.140
Es ist sehr ähnlich wie die 
Produktionsverlagerung.

00:08:22.280 --> 00:08:25.800
Sie müssen ein Videospiel oder einen Film
in 15 verschiedene Sprachen übersetzen?

00:08:26.280 --> 00:08:29.000
Sie stellen jemanden über
Lionsgate ein, der irgendwo

00:08:29.000 --> 00:08:32.560
in Vietnam arbeitet und
30 Cent pro Stunde verdient.