Ethische Probleme mit KI

# Ethische Probleme mit KI

---

## Was dieser Vortrag nicht ist

- technisch
- security-fokussiert
- Kritik an der Qualität von KI

???

### technisch

- Ich gehe nicht auf technische details der KI ein.
- Ich trenne hier nicht mal zwischen
  - KI
  - LLMs
  - Neuronalen Netzen

### security-fokussiert

- keine
  - Data exfiltration
  - Prompt injection
  - Model Inversion
  - Model Hijacking

### Kritik an der Qualität von KI

- Ich gehe nicht darauf ein, ob KI ein gutes und nützliches Werkzeug ist.
- Alle Argumente in diesem Vortrag stehen, egal ob die KI gut ist in dem was sie tut.

## Was dieser Vortrag ist

- einseitig
- sachlich
- so kurz wie möglich

???

### einseitig

- Ich versuche hier kein ausgeglichenes Bild zu schaffen.
- Auf der Seite für KI steht eine Industrie mit vielen Milliarden Euro im Rücken

### sachlich

- wenig persönliche Meinung
- keine Anektdoten
- selbstverständlich scheitere ich an diesem Anspruch, aber:
  - Ich versuche mit Quellen zu arbeiten wo es geht
  - Mein Ziel ist es, dass jeder nach jeder Folie sagen kann: "Ja, das ist richtig, das ist ein Problem."
    - Natürlich kann jeder diese Probleme dann unterschiedlich bewerten.

### so kurz wie möglich

- Jeders der Argumentie hier ist sehr verkürtzt

---

# Wie KI gebaut wird

---

## Enormer Resourcenverbrauch

Strom und Wasser, und Halbleiter für Prozessoren, Ram und Speicher

- **Strom:** Der welteweite Stromverbrauch durch Rechenzentren wird sich laut Bundewirtschaftsministerium bis 2030 verdoppeln.
- **Wasser:**
  - beim Bau von Hardware
  - zum Kühlen von Rechenzentren
- **RAM:** Durchschnittspreise im letzten Jahr: +300%

.quellen[
- Netzpolitik.org - [„Klimaschädlich by Design“](https://netzpolitik.org/2025/generative-ki-klimaschaedlich-by-design/
)
- United Nations - [„AI’s excessive water consumption threatens to drown out its environmental
contributions“](https://sdgs.un.org/sites/default/files/2024-05/Gupta%2C%20et%20al._AIs%20excessive%20water%20consumption.pdf)
- Gesellschaft für Informatik - [„Auswirkungen von KI, Rechenzentren und Halbleitern auf Wasserverfügbarkeit und -Qualität“](https://gi.de/fileadmin/GI/Allgemein/PDF/2025-06_GI_Studie_KI_RZ_Halbleiter_Auswirkungen_Wasser.pdf)
- wccftech - [Western Digital Has No More HDD Capacity Left, as CEO Reveals Massive AI Deals](https://wccftech.com/western-digital-has-no-more-hdd-capacity-left-out/)
]

???

### Strom

Rechenzentren in Irland beanspruchen 22% des dortigen Strombedarfs.
In Deutschland sind es noch 4% Prozent.

### Wasser

Hier gibt es leider sehr wenig transparente Daten

### RAM

Hier muss man die Preise von Vergleichswebseiten Scrapen

---

## Enormer Resourcenverbrauch

Deutschland hat eine [Rechenzentrumsstrategie](https://bmds.bund.de/aktuelles/pressemitteilungen/detail/bundesregierung-beschliesst-rechenzentrumsstrategie):
- bis 2030
  - Rechenzentrumskapazitäten im Land mindestens verdoppeln 
  - Kapazitäten für Künstliche Intelligenz vervierfachen

???

Überall auf der Welt werden Rechenzentren gebaut

Rechenzentrumsstrategie:
- Deutschland ist mit über 2.000 Anlagen bereits führend in Europa
- Transparenzstandards für Verbrauchswerte abgeschaffen (Geschäftsgeheimnisse)

---

## Diebstahl von Trainingsmaterial

- Bücher
- Filme
- Artikel
- Pornos

Ewiger Konflikt: Fair Use gegen Urheberrecht

.quellen[
- Ars Technca
  - [“Torrenting from a corporate laptop doesn't feel right”: Meta emails unsealed](https://arstechnica.com/tech-policy/2025/02/meta-torrented-over-81-7tb-of-pirated-books-to-train-ai-authors-say/)
  - [Meta pirated and seeded porn for years to train AI, lawsuit says](https://arstechnica.com/tech-policy/2025/02/meta-torrented-over-81-7tb-of-pirated-books-to-train-ai-authors-say/)
- David Carson [Theft is not fair use](https://jskfellows.stanford.edu/theft-is-not-fair-use-474e11f0d063)
- [Extracting memorized pieces of (copyrighted) books from open-weight language models](https://arxiv.org/abs/2505.12546)
]

???

- Manchmal kann man es den Firmen direkt nachweisen
- Manchmal kann man es an der KI sehen, die längere Passagen zitiert kann

Aus LLAMA 3.1 70B kennt ganze Bücher auswendig, zum Beispiel: Harry Potter and the Sorcerer’s Stone
Man kann den gesammten Text mit den ersten paar Wörtern herprompten

---

## Webscraping: DDOS auf Infrastruktur

- ~ 60% des HTTP Trafics sind inzwischen Bots
- Auch teure Endpounkte werden oft abgefragt, zum Beispiel `git blame`

.quellen[
- [Cloudflare Radar](https://radar.cloudflare.com/)
- Drew Devault [Please stop externalizing your costs directly into my face](https://drewdevault.com/blog/Stop-externalizing-your-costs-on-me/)
- LWN - [Poisoning scraperbots with iocaine](https://lwn.net/Articles/1056953/)
]

???

Scraping - gibt es schon lange, oft as guten Gründen.

Aber seit LLMs haben Text und Daten aus dem Internet auf einmal einen echten Geldwert.
And wenn es etwas wertvolles umsonst gibt...

---

## WebScraping: DDOS auf Infrastruktur

- [robots.txt](https://de.wikipedia.org/wiki/Robots_Exclusion_Standard) - freundlich bitten

[`https://www.akdb.de/robots.txt`](https://www.akdb.de/robots.txt):

```elm
User-agent: *
Sitemap: https://www.akdb.de/sitemap.xml

Allow: /typo3temp/assets/

Disallow: /fileadmin/_temp_/
Disallow: /typo3/
Disallow: /typo3conf/
Disallow: /typo3temp/
Disallow: /uploads/
Disallow: /clear.gif
Disallow: /no_cache/
Disallow: /*/no_cache/
Disallow: /*no_cache=1
Disallow: /own
Disallow: /ajaxSocialAKDB/
Disallow: /*/ajaxSocialAKDB/
```

???

Höfliche Webscraper respektieren die robots.txt

> Mit der Erfindung großer Sprachmodelle (LLMs) hat Text im Internet plötzlich einen wirtschaftlichen Wert erlangt, den er zuvor nicht hatte, was dazu verleitet, diese höflichen Aufforderungen zu ignorieren.
> Dies wiederum veranlasst Serverbetreiber dazu, Scraperbots von Menschen zu unterscheiden, um die von ihnen festgelegten Grenzen durchzusetzen.
> So beginnt ein Katz-und-Maus-Spiel zwischen Serverbetreibern, die neue Erkennungstechniken entwickeln, und Scraperbots, die versuchen, sich zu tarnen.
> In diesem Spiel gibt es keine Gewinner, und die Verlierer sind unabhängige Websites, die mit dem Wettrüsten nicht Schritt halten können.

Source https://lwn.net/Articles/1056953/

> With the invention of large language models (LLMs), text on the web suddenly has an economic value that it didn't previously, which leads to the temptation to ignore those polite requests.
> That, in turn, drives server operators to attempt to differentiate scraperbots from humans in order to enforce their chosen limits.
> Thus begins a game of cat and mouse, between server operators coming up with new detection techniques and scraperbots trying to blend in.
> There is never a winner, but the losers are independent web sites that can't keep up with the race and their visitors.

---

## WebScraping: DDOS auf Infrastruktur

- [robots.txt](https://de.wikipedia.org/wiki/Robots_Exclusion_Standard) - freundlich bitten
- [Captcha](https://de.wikipedia.org/wiki/Captcha) - der Mensch muss erstmal eine kleine Aufgabe schaffen

![Recaptcha](captcha.png)

---

## WebScraping: DDOS auf Infrastruktur

- [robots.txt](https://de.wikipedia.org/wiki/Robots_Exclusion_Standard) - freundlich bitten
- [Captcha](https://de.wikipedia.org/wiki/Captcha) - der Mensch muss erstmal eine kleine Aufgabe schaffen
- [Anubis](https://en.wikipedia.org/wiki/Anubis_%28software%29) - der Browser muss erstmal eine kleine Aufgabe schaffen

![Anubis Challenge Screen](Anubis_challenge_screen_%28dark%29.png)

???

Anubis uses a proof-of-work challenge to ensure that clients are using a modern browser and are able to calculate SHA-256 checksums.
Anubis has a customizable difficulty for this proof-of-work challenge, but defaults to 5 leading zeroes.

Anubis ist der ägyptische Gott, der die Seelen der Verstorbenen wiegt.

---

## WebScraping: DDOS auf Infrastruktur

```dsconfig
It open and walked briskly into the factory.
"Each process," explained the Human Element Manager, "is carried out, so far."
11.
Herein was.
Car turns on the antenna.
By impressions from within or from without, we feel the need to talk!
```

---

## WebScraping: Vergiften ist wahrscheinlich effektiv

![](vergiften.png)

.quellen[
- [Nightshade: Prompt-Specific Poisoning Attacks on Text-to-Image Generative Models](https://arxiv.org/pdf/2310.13828)
]

---

## Ausbeutung von sozial Schwachen durch Datenarbeit

- Daten generieren, labeln, prüfen, korrigieren
- meist über Outsourcing & Plattformen
- prekäre, schlecht bezahlte Jobs
- oft belastender & traumatisierender Inhalt
- fehlender Arbeits-, Gesundheits- & Datenschutz

.quellen[
  - Netzpolitik.org - [„Es gibt keine KI ohne Datenarbeit“](https://netzpolitik.org/2026/outsourcing-und-ausbeutung-es-gibt-keine-ki-ohne-datenarbeit/)
]

---

# Was mit KI gemacht wird

---

## Open Source workflows verstopfen

Maintainer Burnout

.quellen[
- Daniel Stenberg (curl) - [„The pressure“](https://daniel.haxx.se/blog/2026/05/26/the-pressure/)
- Andreas Kling (Ladybird) - [„Changing How We Develop Ladybird“](http://ladybird.org/posts/changing-how-we-develop-ladybird/)
]

???

In erfolgreichen Open Source Projekten kommt irgendwann der Punkt, an dem man mehr Zeit mit Review verbringt als mit Coden.

Review von
-  Issues
- Sicherheitslücken
- Merge Requests
- Dokumentation

Das war bisher in Ordnung:
Eine Mergerequest ist gleichzeitig ein Beweis, dass Arbeit inverstiert wurde und ein Wert entstanden ist.
Diese Workflows sind jetzt kaputt.
Viele Opensourceprojekte lassen solche Contributions inzwischen nicht mehr zu

Das gleiche passiert auch im Strafverfolgung, zum Beispiel beim Sichten von Anzeigen zur Kinderpornographie

---

## Auslöschung ganzer Berufsgruppen

- Grafiker
- Übersetzer
- Voice Actor

...

---

## Das Internet versloppt

???

KI wird mit Text aus dem Internet trainiert
KI schreibt ins Internet rein

---

## neue Betrugsarten

- Fakeanrufe mit vertrauten Stimmen
- Schockbilder von vertrauten Personen
- Deepfakes

???

Enkeltrick

---

## Wie Leute die Welt sehen

Werkzeuge spiegeln immer die Weltsicht derer wieder, die sie gebaut haben.

???

Beispiel: Nacktscanner in Flughäfen (von Philosphy tube)
Bevor man in einen Naktscanner geht drückt ein Flughafenmitarbeiter einen Knopf "Mann" oder "Frau".
Wenn dann bei der gescannten Person ausbuchtungen gefunden werden, die man nicht erwartet, dann muss sie das erklären.
Das ist ein großes Problem für Trans-Personen.

Beispiel: Brücken auf Long Island

Wer baut die Werkzeuge?

- OpenAI (Sam Altman, Elon Musk)
- Google
- Microsoft
- Meta/Facebook (Mark Zuckerberg)
- Amazon (Jeff Bezos)
- Antrhopic
- xAi (Elon Musk)

???

Hier muss jeder selbst entscheiden, ob das Leute/Firmen sind
- von denen wir uns unsere Zukunft gestallten lassen wollen.
- deren Weltsicht wir in unserem Alltag haben wollen?

---

## Abhängigkeit von den USA

2026-06-12: US-Regierung verbiertet Zugriff auf Fable 5 und Mythos 5 für alle ausländischen Staatsangehörigen

.quellen[
- Anthropic - [„Statement on the US government directive to suspend access to Fable 5 and Mythos 5“](https://www.anthropic.com/news/fable-mythos-access)
- Somon Willison - [„If Claude Fable stops helping you, you'll never know“](https://simonwillison.net/2026/Jun/10/if-claude-fable-stops-helping-you/)
  ]

???

KI wird hauptsächlich von amerikanischen (und Chinesischen) Firmen gebaut.
Und diese Regierung sind absolut fähig und willig, das zu ihrem Vorteil zu nutzen.

- 2026-06-10 wenn Claude für unerwünschte zwecke genutzt wird, dann wird es heimlich inevektiver
- 2022-10-07 strenge Exportkontrollen der USA gegen China für Halbleiter um den technologischen Vorsprung der USA zu sichern

---

## Lizenzfragen

.quellen [
- Chardet [AI rewrite to escape a copyleft license](https://github.com/chardet/chardet/issues/327)
- [Extracting memorized pieces of (copyrighted) books from open-weight language models](https://arxiv.org/abs/2505.12546)
]

???

Aus LLAMA 3.1 70B kennt ganze Bücher auswendig, zum Beispiel: Harry Potter and the Sorcerer's Stone
Man kann den gesammten Text mit den ersten paar Wörtern herprompten

Befreiung von Copyleft Lizenzen

---

# Bilanz und Konsquenzen

???

- ChatGPT wurde im November 2022 released
- Beginn von KI wie wir sie heute verstehen
- Irgendwann müssen wir eine Zwischenbilanz ziehen und fragen:
  - Überwiegen die Vorteile oder die Nachteile?
  - Wollen wir das auf unserem Planeten haben?
  - Wollen wir das in unserer Umgebung haben?

- Manche Argumente "nur Kapitalismuskritik?"
- Aufgabe an die Zuhörer: Probleme selbst gewichten und gegen Vorteile abwägen.

---

## Wie sich andere Positionieren

.center[
    [ ![](ai_friendliness_graph\visualization.svg) ](ai_friendliness_graph\visualization.html)
]

.quellen[
- https://github.com/rust-lang/rust-forge/pull/1040
]

???
- Disclaimer:
  - Mit Diagrammen kann man so gut lügen, zum Beispiel indem man auswählt was man darstellt
  - Hier sind große und relevante Open Source Projekte aufgeführt.
  - Wenn man die Fortune 500 aufzählen würde sähe das Bild anders aus, die verdienen ja aber auch Geld mit AI

Zusammenfassung: Viele Projekte verbieten AI oder erlauben es, solange ein Mensch die Verantwortung trägt