In der Grauzone

Dieser Artikel erschien in der Ausgabe brandeins /thema IT-Dienstleister 2024.

Isabelle Biallaß,

Expertin für die Anwendung von KI in der Justiz, ist Richterin am Amtsgericht Essen, leitet den Thinktank Legal Tech & KI in der Justiz NRW und ist Vorstandsmitglied des Deutschen EDV-Gerichtstags.

„Es hängt auch von den verfügbaren Ressourcen ab.“
Immer wieder ist zu lesen, der angeblich so konservative Mindset der Juristen sei dafür verantwortlich, dass künstliche Intelligenz in der Justiz bislang allenfalls in Pilotprojekten zum Einsatz kommt. Das bedient zwar trefflich das Klischee, trifft aber nicht den Kern des Problems. Ein wesentlicher Punkt sind meiner Erfahrung nach die Ressourcen: Die Beschaffung oder Entwicklung von KI-Tools ist kostenintensiv. Hinzu kommt, dass Trainingsdaten für Machine-Learning-Anwendungen durch Justizbeschäftigte manuell bearbeitet werden müssen. Hierfür müssen personelle Kapazitäten geschaffen werden. Wie alle Teile der öffentlichen Verwaltung ist auch die Justiz von Haushaltskürzungen betroffen.

Die Entscheidung über die Freigabe von Geldern für KI-Anwendungen fällt – abgesehen von dem Betrag von 200 Millionen Euro, der vom Bund über die Digitalisierungsinitiative für die Justiz bereitgestellt wird – in die Zuständigkeit der Justizministerien der Länder. Die Justiz muss vorrangig ihren verfassungsrechtlichen Aufgaben nachkommen. Zudem müssen bei einigen Digitalisierungsvorhaben (wie die Einführung der elektronischen Akte) Fristen ein-gehalten werden. Im Vergleich fällt die kurzfristige Ermöglichung des Einsatzes von KI eher unter die Kategorie „Nice to have“.

Angesichts der begrenzten Mittel des Justizetats müssen KI-Vorhaben besonders überzeugen, damit jetzt schon die Bereitschaft entsteht, Geld für Investitionen freizugeben, anstatt sie erst im zweiten Schritt – nach dem Abschluss der Digitalisierung durch die Einführung der elektronischen Akte – anzugehen.

„ChatGPT arbeitet nicht juristisch.“

Darf ich mir als Richterin in einem Prozess Alternativen zur Entscheidungsfindung von künstlicher Intelligenz vorschlagen lassen? Angesichts des Siegeszugs von ChatGPT ist das eine hochaktuelle und spannende Frage, die an die Grundsätze des richterlichen Selbstverständnisses rührt. Die kommende KI-Verordnung der EU wird, so sieht es zumindest aus, die Unterstützung bei der Urteilsfindung durch künstliche Intelligenz als Hochrisikotechnologie einstufen, für deren Anwendung strenge Kriterien zu erfüllen sind – etwa der Nachweis, dass die zum Training der KI verwendeten Datensätze nicht diskriminierend sind. Wie dieser Nachweis erbracht werden soll, ist noch nicht abschließend geklärt.

Letztlich geht es darum, dass ich als Richterin meine Entscheidung eigenverantwortlich treffen muss. Das gilt auch bisher schon, wenn beispielsweise ein Referendar dem Richter einen Urteilsentwurf vorlegt. Der Richter muss den Entwurf komplett durchgehen und jeden einzelnen Schritt daraufhin hinterfragen, ob er sich die Argumentation des Referendars zu eigen machen kann.

Bei einem KI-Tool wie ChatGPT dagegen ist es unmöglich, jeden einzelnen Argumentationsschritt zu hinterfragen. Die Begründung, die ChatGPT unter das Urteil schreibt, erschließt sich nicht aus den vorangegangenen Erwägungen. ChatGPT arbeitet nicht juristisch, sondern nach Wahrscheinlichkeiten. Es ist aus juristischer Sicht eine Blackbox. Warum es aus der Vielzahl von Urteilen, die ihm als Trainingsdaten zur Verfügung stehen, eine bestimmte Antworten gibt, ist nicht nachvollziehbar.

Naheliegend ist, dass das Chatbot sich an der herrschenden Meinung orientiert, weil sie die bisherigen Entscheidungen dominiert. Wenn ich als Richterin aber den Argumentationsweg der künstlichen Intelligenz nicht hinterfragen kann, weil es streng genommen gar keinen gibt, gerate ich in Versuchung, auch der herrschenden Meinung zu folgen und sie weiter zu zementieren. Das wäre eine ungewollte Angleichung der Rechtsprechung.

Eine KI-Anwendung wie ChatGPT mag in den meisten Fällen zu plausiblen Ergebnissen führen, aber nicht im besonderen Einzelfall, den das System nicht kennt und deswegen fehlerhaft behandelt. Es besteht zudem die Gefahr, dass von derartigen fehlerhaften Vorschlägen vor allem Minderheiten betroffen sind, die in den Trainingsdaten nicht hinreichend abgebildet sind.

José Campos Nave,

Managing Partner der Rechtsanwalts-,Steuerberatungs- und Wirtschaftsprüfungsgesellschaft Rödl und Partner

„Wenig Bewusstsein für die Risiken“

Die Auswirkungen der kommenden EU-Verordnung zur künstlichen Intelligenz auf Unternehmen, die KI-Tools anwenden, lassen sich noch nicht im Detail abschätzen. Denn der vom Europaparlament angenommene Text befindet sich noch in der Abstimmung mit der EU-Kommission und den Mitgliedsstaaten. Wie es aussieht, wird die Verordnung die KI-Anwendungen in unterschiedliche Risikoklassen einstufen. Je höher das Risiko, desto strenger die Auflagen – bis hin zum Verbot hochriskanter oder diskriminierender Anwendungen wie etwa der Gesichtserkennung zur Überwachung oder die Auswertung biometrischer Daten nach Geschlecht oder Hautfarbe.

Schon jetzt ist abzusehen, dass insbesondere auf den Mittelstand, der bislang im Hinblick auf KI noch von einer gewissen Angstfreiheit geprägt war, eine erhebliche Dokumentationspflicht und ein großer Aufwand für Risiko- bewertung und Zertifizierungen zukommen wird – ähnlich wie beim Lieferkettengesetz. Ohne externe Expertise werden viele Unternehmen das kaum bewältigen können.

Auch bei der möglichen Verletzung von Urheberrechten durch KI-Anwendungen ist das Risikobewusstsein bei vielen unserer mittelständischen Mandanten bislang wenig ausgeprägt. Dabei ist hier größte Sorgfalt geboten, weil man als Anwender überhaupt nicht weiß, mit welchen Inhalten eine KI trainiert wurde und ob eventuell Urheberrechte an den Trainingsdaten verletzt wurden.

„Ja oder nein – die Frage stellt sich nicht.“

Die künstliche Intelligenz wird den Markt bei Anwaltskanzleien, Wirtschaftsprüfern und Beratern tiefgreifender verändern als jeder Technologieschub zuvor. Die Frage „Ja oder nein?“ bei der Nutzung künstlicher Intelligenz stellt sich ganz einfach nicht mehr. Für eine Due-Diligence-Prüfung beispielsweise konnte eine Wirtschaftskanzlei ihrem Mandanten früher durchaus 100 Stunden in Rechnung stellen. Diese Zeit benötigten die Anwälte tatsächlich für diese Prüfung. Heute ist der Mandant allenfalls bereit, für die gleiche Dienstleistung im Zweifel nur zehn Stunden zu bezahlen – weil er den Einsatz modernster Technik erwartet, die Verträge ausliest und Daten strukturiert zusammenstellt.

Und der Mandant erwartet das zu Recht. Wir verstehen uns als moderner Dienstleister und müssen Technik anwenden, die State of the Art ist. Kanzleien, die das nicht wollen oder nicht können und an überkommenen Geschäftsmodellen festhalten, werden größte Probleme haben, sich im Markt zu halten.

Tobias Broda,

EMEA Senior Vice President der Rechtsabteilung des US-amerikanischen Softwareunternehmens PTC

„Ein ideales Einsatzfeld“

Im Prinzip ist künstliche Intelligenz in der Ausprägung von Large Language Models (LLM) und Natural Language Processing (NLP) exakt die Technologie, die auf unsere Denksysteme passt. Das Recht ist letztlich ein regelbasiertes und auf Sprache beruhendes System. Worte sind sozusagen alles, was wir haben, egal ob es Gesetze sind, Verträge, Urteile oder Schriftsätze. Und das ist natürlich etwas, das ein auf LLM gestütztes KI-System gut erfassen kann. In der auf formalen Regeln basierenden sprachlichen Argumentation der Juristen ist es sozusagen treffsicherer als beispielsweise im Erfinden einer Romanhandlung. Denn es gibt bestimmte, allseits akzeptierte Methoden, wie etwa ein Gutachten verfasst oder eine Subsumtion durchgeführt wird.

In der Vergangenheit war künstliche Intelligenz noch nicht in der Lage, Sachverhalte aus dem wirklichen Leben in ein normatives Gerüst methodisch so einzuordnen, wie es Juristen gelernt haben. Dieser Vorsprung des Menschen gegenüber der Maschine beginnt jedoch, je nach Anwendungsfall, zu schwinden.

„Niemand verliert gern Herrschaftswissen.“

In den Rechtsabteilungen dominiert derzeit noch eine eher risikofokussierte Sicht auf den Einsatz künstlicher Intelligenz im Unternehmen. Kein Wunder, denn es zeichnet unsere Profession schließlich aus, dass wir auf die pathologischen Fälle hin trainiert werden – also auf jene, in denen etwas schiefläuft. Dagegen will man sich sinnvollerweise schützen – durch unternehmensinterne Richtlinien oder auch mit Anwendungsverboten für bestimmte Zwecke, wie sie die KI-Verordnung der EU voraussichtlich definieren wird. In den Bereichen, in denen die Folgen noch nicht seriös abzuschätzen sind, haben die Unternehmensjuristen und auch die externen Anwälte daher derzeit weniger die Chancen als die Risiken im Blick.

Noch größer scheinen mir die Berührungsängste beim Einsatz von KI allerdings innerhalb der Rechtsabteilungen selbst zu sein. Habitus und Selbstverständnis sind hier doch überwiegend noch sehr tradiert. Außerdem ist die Unsicherheit groß, dass die Funktionsweise der Tools nicht hinreichend durchdrungen wird; dies erzeugt Angst, Fehler zu machen oder zu übersehen.

All dies aufzubrechen, vor allem an den entscheidenden Stellen, nämlich in den Leitungsfunktionen, wird wie bei jedem tiefgreifenden kulturellen Wandel nicht von heute auf morgen funktionieren. Letztlich bleibt es allerdings alternativlos: Allein schon der Kostendruck, mehr noch das Bedürfnis nach sinn-hafter Tätigkeit, wird es erzwingen, dass hoch qualifiziertes und -bezahltes Personal in Bereichen eingesetzt wird, in dem es einen echten Mehrwert erzeugt – und sich nicht für automatisierbare Prozesse aufreibt.

Außerdem steigen die Anforderungen an Arbeitstempo und Qualität einer Rechtsabteilung stetig. Wer da nicht Schritt hält, weil er in analogen Workflows verharrt, wird Probleme bekommen – mit seinen Stakeholdern im Unternehmen, die mehr Tempo fordern und mit seinen Beschäftigten, die sich nach einem zeitgemäßeren Arbeitgeber umsehen werden.

Noch wichtiger für die Frage nach der Akzeptanz von KI in den Rechtsabteilungen ist das juristische Selbstverständnis, die Psychologie des Berufsstandes. Über viele Jahrhunderte hinweg reklamierten die Juristen für sich exklusives Herrschaftswissen, das ihnen stets eine herausgehobene soziale Stellung verschaffte. Und jetzt kommt eine Maschine, die hoch komplexes und bislang hoch dotiertes Expertenwissen zuverlässig und in bis dato unvorstellbarem Tempo verfügbar macht – also demokratisiert und aus der Sicht der Experten damit gleichsam trivialisiert. Das erzeugt große Skepsis und mitunter eine unreflektierte Abwehrhaltung, die man nicht unterschätzen sollte. Niemand verliert gern Herrschaftswissen und soziales Prestige.

Michael Roth,

Rechtsanwalt und Experte für Legal Tech und künstliche Intelligenz bei KPMG Law

„Manche haken es schnell wieder ab.“

In vielen Unternehmen, die wir beraten, ist das Wissen über die Fähigkeiten Künstlicher Intelligenz noch nicht allzu ausgeprägt. Man hat vielleicht mal das eine oder andere ausprobiert, ChatGPT etwa – und dann war man mit den Ergebnissen unzufrieden, hat die Sache abgehakt und verfolgt das nicht weiter. So etwas hören wir erstaunlich oft. Viele Geschäftsleute können noch nicht annähernd abschätzen, welche Macht in dieser Technologie steckt.

Dass Betriebsräte sich bei KI-Projekten kategorisch querstellen und alles verzögern und verhindern, können wir aus unserer Beratungspraxis nicht bestätigen. Es ist halt immer die Frage, wie man mit der Arbeitnehmerseite umgeht, wie sehr man sie mit ins Boot holt. Wenn man den Betriebsrat vor vollendete Tatsachen stellt, wenn Rechtsabteilung, IT-Abteilung und Geschäftsführung sich schon einig sind und dem Betriebsrat dann ein Papier mit der Aufforderung zur Unterschrift vorlegen, in dem irgendwo das Wort „Hochrisiko“ auftaucht, dann hat man einen Gegner.

Man muss den Leuten frühzeitig erklären, was man vorhat, welchen Nutzen das bringen soll, wie es funktioniert, aber auch, welche Risiken auftauchen können. Dann fühlt der Betriebsrat sich mitgenommen, kann seine Bedenken äußern oder sagen, was aus seiner Sicht unbedenklich ist und wo er die rote Linie zieht. Genauso haben wir es schon einige Male erlebt. Letztlich ist es eine Frage der Unternehmenskultur, der Kommunikation und des Miteinanders.

Sina Dörr

engagiert sich zivilgesellschaftlich für die digitale Transformation der Justiz und ist Richterin am Oberlandesgericht Köln.

„Intelligente Software auch für die Justiz?“

Es gibt KI-gestützte Software-Tools, die sich in Anwaltskanzleien schon bestens bewähren – weil sie Zeit und Kosten sparen, die Anwälte von öden Routineaufgaben entlasten und ihnen wieder Zeit für ihre eigentliche Arbeit verschaffen. In der Justiz kommen solche Werkzeuge bislang wenig zum Einsatz. Und das liegt nicht an dem angeblich konservativen Mindset der Richterinnen und Richter. Diejenigen Kolleginnen und Kollegen, die probeweise mit intelligenten Tools gearbeitet haben, waren anschließend hellauf begeistert.

Die Entscheidung über den Einsatz von Software-Tools liegt aber nicht bei einzelnen Richterinnen und Richtern, sondern bei Justizverwaltungen. Sie entscheiden innerhalb der ihnen vorgegebenen Rahmenbedingungen. Da geht es etwa um verfügbare Mittel oder die Integrationsfähigkeit neuer Software-Lösungen in die vorhandene Technik oder welche Arbeitsmittel und welche technische Infrastruktur zur Verfügung gestellt werden. Dass ein Bedarf besteht, ist also auch in der Verwaltung angekommen.

„Unseren Fehlern auf die Schliche kommen.“

KI könnte uns Richterinnen und Richtern helfen, unsere Entscheidungsqualität zu überprüfen. Im Strafrecht ließen sich zum Beispiel Unterschiede in der Strafzumessung systematisch auswerten. Über die Analyse großer Datenmengen, also vieler Sachverhalte und Urteile, könnten wir unserem fehlerbehafteten Urteilsvermögen auf die Schliche kommen. Wenn die Analyse Defizite zweifelsfrei belegt, etwa bei der Strafzumessung, bei der es ein regionales Gefälle gibt – hier bekommt ein Drogendealer im Schnitt zwei Jahre auf Bewährung, dort gerade mal eine Geldstrafe für das gleiche Vergehen – könnte es den Richtern helfen, ihre eigenen Entscheidungen noch einmal zu überdenken.

„Niemand will den Robo-Judge.“

Den „Robo-Judge“, also eine KI, die gerichtliche Entscheidungen trifft, wird es ohne Grundgesetzänderung nicht geben. Zum Glück. Ich finde es ein wenig schade, dass bei der Diskussion über Einsatzmöglichkeiten von KI in der Justiz sehr häufig die Letztentscheidung im Fokus steht. Ich kenne kaum jemand, der den Robo-Judge ernsthaft will. Auch der Rück- griff auf ChatGPT – „Schau dir mal die Akte an und sag mir, wie ich morgen entscheiden soll“ – verbietet sich natürlich. Aber es gibt auf dem langen Weg der Vorbereitung viele Arbeitsschritte, in denen künstliche Intelligenz wertvolle Unterstützung geben könnte.

Die Justiz leidet unter wachsender Personalnot und droht ohne mehr Effizienz in die Knie zu gehen. KI-gestützte Software-Tools könnten eine Antwort darauf sein, vor allem in standardisierten Massenverfahren wie etwa bei den Fluggastrechten. Auch die Richterinnen und Richter würden davon profitieren. Oft sind wir selbst gezwungen, wie Roboter zu arbeiten: Ich habe morgen eine Verhandlung, für die eine halbe Stunde angesetzt ist. Ich weiß, dass eigentlich mehr Zeit nötig wäre, um in Ruhe mit den Beteiligten zu sprechen, damit sie nachher aus dem Gericht gehen und wissen: Ich bin gehört worden mit meinem Anliegen.

Martin Siemann

verantwortet als Syndikusanwalt in der Rechtsabteilung der Audi AG unter anderem die Implementierung künstlicher Intelligenz.

„Wir sehen uns als Navigator.“

Die Einführung von ChatGPT markiert sozusagen die Vergesellschaftung der künstlichen Intelligenz. Auf einmal ist KI für jedermann nutzbar. Das hat einen großen Hype entfacht. Auch wir spüren das. Selbst Fachbereiche wie der Vertrieb oder das Design, die bislang nicht im Fokus von KI standen, weil man dort nicht die typischen Software-Spezialisten findet, äußern nun großes Interesse. Sie erhoffen sich Schnelligkeit, Effizienzgewinne und – etwa im Design – kreative Denkanstöße. Mit diesem Anliegen kommen die Kolleginnen und Kollegen auf uns zu und versuchen mit uns gemeinsam auszuloten, ob und unter welchen Bedingungen KI für sie von Nutzen sein könnte.

Als Rechtsabteilung ist es unsere Aufgabe, angesichts dieser auf allen Ebenen stark gestiegenen Erwartungshaltung die Teams auch für mögliche Nachteile und Risiken zu sensibilisieren. Wenn wir in die Beratung solcher Projekte einsteigen, sehen wir uns in der Rolle eines Navigators. Wir suchen nach Gefahrenstellen, aber genauso versuchen wir, guten Ideen zur Umsetzung zu verhelfen. Gegebenenfalls müssen wir aber natürlich die rote Flagge rausholen, wenn eine KI-Anwendung den Bereich des Erlaubten verlassen würde. Im Regelfall empfehlen wir lediglich einen anderen Weg als den ursprünglich favorisierten – einen, der möglicherweise etwas länger und steiniger ist und auf den ersten Blick vielleicht auch teurer. Aber dieser Weg ist dann rechtssicher, das ist wichtig. Das kann auch Zeit und Geld kosten. Deswegen sehen wir uns durchaus als „Wachhund“ – aber als einer, der wohlwollend zum Ziel begleitet. Wir sind also beides – Aufpasser und Befähiger, wobei Letzteres das Ziel ist und Ersteres der Weg dorthin.

Früher war es häufig so, dass die Rechtsabteilung erst zu einem sehr späten Zeitpunkt hinzugezogen wurde, wenn Projekte schon sehr weit fortgeschritten waren. Wenn wir dann gravierende Bedenken hatten, musste vieles wieder umgeworfen werden. So etwas kostet Zeit und Mühe und schürt eine Menge Unmut. Am Ende steht das Projekt aufgrund von Zeitnot oder erschöpfter Budgets ganz auf der Kippe – daher kommt der häufige Vorwurf an die Rechtsabteilung: „Die stehen immer im Weg und zerstören alle guten Ideen.“

Das ist heute anders. Wir versuchen, schon in der Geburtsstunde einer Idee für eine KI-Anwendung mit an Bord zu sein – und das gelingt auch häufig. Das ist für uns das Wichtigste: die Sensibilisierung im Vorfeld, die die Projektteams befähigt, eventuelle Risiken bei der Anwendung von KI-Tools, etwa Mängel bei der Qualität der Trainingsdaten, selbst zu entdecken. Wir versuchen, Leitplanken zu setzen, innerhalb derer sich Teams frei bewegen können. Aber wir sagen auch: Sobald ihr über die Leitplanke springt, müssen wir dringend an Bord, denn dann betreten wir die Risikozone. Den Kolleginnen und Kollegen gibt das eine gewisse Sicherheit. Wenn sie uns frühzeitig einbinden, wissen sie, dass dies die möglichen juristische Komplikationen für alle Beteiligten mindert. Und dann haben sie den Kopf wieder frei für andere Dinge.

Andreas Peschel-Mehner,

Partner der Wirtschaftsrechtskanzlei SKW Schwarz

„Wie ein Rubikwürfel“

Es gibt derzeit noch kein sicheres Fahrwasser. Die Rechtsgrundlagen für den Einsatz künstlicher Intelligenz sind grundsätzlich vorhanden, aber es fehlen KI-spezifische Aspekte. Es ist wie mit einem Rubikwürfel – ständig ergeben sich neue Konstellationen, von denen man nichts geahnt hat. Ich bin überzeugt, dass wir mit solchen Unsicherheiten und Graubereichen noch in den nächsten zehn, weltweit vielleicht sogar zwanzig Jahren zurechtkommen müssen.

Jeder findet sich damit ab, dass er derzeit bei Anwendung von KI gewisse Risiken eingeht. 97 oder 98 Prozent richtige Ergebnisse sind ein super Wert, aber wenn die KI ausnahmsweise danebenliegt und in einem wichtigen Fall, an dem teure Haftungsfragen hängen, bei den verbleibenden zwei oder drei Prozent landet, dann habe ich möglicherweise den Worst Case. Die meisten unserer Mandanten, die wir zum Thema KI beraten, wissen, dass es noch ein heißes Eisen ist, das sie in vielen Fällen nur anfassen sollten, wenn sie sich vorher dicke Handschuhe angezogen haben.

Johanna Wenckebach,

wissenschaftliche Direktorin des Hugo Sinzheimer Instituts für Arbeits- und Sozialrecht der Hans-Böckler-Stiftung und Professorin für Arbeitsrecht, Frankfurt a. M.

„Es ist eine Machtfrage.“

Es war zu erwarten, dass beim Einsatz künstlicher Intelligenz in den Unternehmen die Betriebsräte mal wieder den Ruf der Fortschrittsverhinderer haben werden. Aber erstens entspricht das absolut nicht der bisher gelebten Praxis. Und zweitens – was wären denn das für Betriebsräte, wenn sie sofort und stets alles ungeprüft bejubeln würden, was der Arbeitgeber will? Sie hätten ihre Aufgabe verfehlt.

Arbeitgeber wollen künstliche Intelligenz einsetzen, um die Produktivität zu steigern und mehr Geld zu verdienen. Das ist legitim, und wenn es gut gemacht wird, profitieren auch Beschäftigte. Aber sie fragen sich nicht in erster Linie, was der Einsatz dieser Technik für die arbeitenden Menschen bedeutet. Oft ist nicht klar, wozu KI genutzt werden kann und wie ihr Einsatz Arbeit verändert. Fallen Tätigkeiten weg? Müssen wir Beschäftigte für die neuen Anwendungen zusätzlich qualifizieren? Wie funktioniert der Datenschutz? Die Antworten auf diese Fragen rund um den menschenwürdigen Einsatz von Technologie ergeben sich nicht von allein, sie müssen ausgehandelt werden. Und da spielt die Mitbestimmung eine entscheidende Rolle.

Mitbestimmung ist eine Machtfrage. Künstliche Intelligenz birgt die Gefahr, das ohnehin bestehende Machtgefälle zwischen Arbeitgeber und Beschäftigten noch zu verschärfen. Etwa bei der Auswertung von Beschäftigtendaten: Arbeitgeber können KI-Tools zur Leistungskontrolle einsetzen. Kontrolle ist aber letztlich ein Machtinstrument. Hier ist es ganz klar Aufgabe der Mitbestimmung, derartige Überwachungsmöglichkeiten einzugrenzen und rote Linien zu ziehen. Meiner Meinung nach müsste der Gesetzgeber angesichts der scheinbar grenzenlosen und kaum kontrollierbaren Leistungsfähigkeit der KI-Tools mehr und zeitgemäße Möglichkeiten für solche rote Linien einräumen. Ich glaube nicht, dass damit wirtschaftlicher Fortschritt verhindert wird, sondern dass die Technik so eingesetzt wird, dass möglichst viele Menschen davon profitieren. //