Ende programmiert?

/ „Wie viel kostet es, einen menschlichen Entwickler durch eine KI zu ersetzen?“ Matt Welsh, ehemaliger Informatikprofessor und nun Start-up-Gründer, hat sich gerade so richtig warm geredet im legendären Programmierkurs CS 50 der Harvard University in Camebridge. Es geht um „The Art of Programming“, die Kunst des Programmierens. Die Augen von Hunderten aufstrebenden Programmiererinnen und Programmierer sind auf ihn gerichtet. „Lasst uns mal nachrechnen“, ruft Welsh ins Publikum. Seine Rechnung geht so: Output eines menschlichen Programmierers pro Tag: 100 Code-Zeilen. Kosten für einen Programmierer pro Tag: 1.200 Dollar. Kosten von ChatGPT für die gleichen 100 Code-Zeilen: 12 Dollar-Cent! „1.200 Dollar zu 12 Cent – das ist ein Faktor von 10.000“, sagt Welsh. „Und ein Roboter macht noch nicht einmal Pause. Das sollte uns allen Angst machen.“

Im Hörsaal ist es still geworden. Dabei waren alle sogar durch den Titel des Gastvortrags vorgewarnt: „The End of Programming.“

Der Anfang vom Ende?

Immer häufiger hört man angesichts des nahezu unheimlichen Aufstiegs von generativer künstlicher Intelligenz, dass Tools wie ChatGPT und Co künftig nicht nur Werbetexter und Grafiker, Übersetzer und Autoren überflüssig machen könnten, sondern auch diejenigen, die sich lange besonders sicher wähnten: Programmierer.

Längst gibt es eine ganze Reihe von immer besser werdenden KI-basierten Codehelfern, angefangen von Githubs Copilot oder dem AI Code Editor Cursor, die quasi schon Autovervollständiger für Code sind. Über auf Coding spezialisierte Modelle wie CodeLlama oder StarCoder. Bis hin zu den bekannten allgemeingebildeten Größen wie ChatGPT oder Claude, die auf einzelne Prompts hin oft ziemlich Brauchbares ausspucken können – in Python, JavaScript, C++ und Dutzenden anderen Programmiersprachen.

Im Moment arbeiten diese Tools hauptsächlich als Assistenten: Sie können Lösungsvorschläge unterbreiten, Fehler finden, Codeschnipsel erklären und selbst Nutzern ohne jegliche Programmierkenntnisse in Sekunden ein funktionierendes „Snake“-Spiel mit einer hungrigen Schlange ausgeben. Im Spätsommer führte die Coding-KI Genie lange das sogenannte SWE-Bench Leaderboard an, ein Ranking, in dem die Coding-Skills von Modellen gemessen werden. Genie, sagen ihre Macher, gehe schon ähnlich wie ein menschlicher Entwickler vor. Gearbeitet wird auch an Lösungen, die dem Vorbild Mensch noch näherkommen – und von Anfang bis Ende alles allein coden und sogar ausführen.

Debugging bleibt mühsam

Für Matt Welsh, den Harvard-Gastredner, ist klar, dass vieles von dem, was er und seinesgleichen heute tun, bald nicht mehr unbedingt von Menschen erledigt werden muss. Dass es jetzt schon kaum noch Programmiererinnen und Programmierer gibt, die ganz ohne KI-Unterstützung arbeiten, scheint ihm recht zu geben. Aber es existieren auch vehemente Gegenmeinungen, und immer mehr Entwickler erleben, wie ihre anfängliche Begeisterung für die künstlich intelligente Coding-Hilfe einer teilweisen oder vollständigen Ernüchterung gewichen ist.

„Du verbringst mehr Zeit damit, die Fehler der KI zu verbessern, als zu programmieren“, moniert etwa die youtubende Programmiererin Mariya Sha im Interview mit brand eins. Das sogenannte Debugging war auch schon vor der KI-Revolution mühsame Pflicht ihrer Zunft. Was aber, wenn nur noch dieses Fehler-Eliminieren für den Menschen übrig bliebe? „Es ist auch viel schwieriger, Fehler in einem Code zu finden, den man nicht selbst geschrieben hat“, sagt Sha, die Hunderttausenden Follower auf ihrem Kanal „Python Simplified“ das Programmieren näherbringt.

Und wie nervig ist es erst, damit umzugehen, dass Large Language Models schon mal mit veralteten Versionen und Standards hantieren, weil ihnen das Wissen nach ihrem Trainingsende fehlt! Solche Detailprobleme können leicht den Zeitvorteil, den KI-unterstütztes Programmieren bietet, wieder zunichte machen.

Eindeutige Aussagen darüber, inwiefern Code-Assistenten das Programmieren tatsächlich effizienter machen, gibt es noch nicht. Erste Studien aus dem Informatik-Fachgebiet Mensch-Maschine-Interaktion belegen Mariya Shas Eindruck: In Tests hatten Personen, die Github Copilot für Programmieraufgaben verwendeten, mit dem Debugging des generierten Codes zu kämpfen und waren nicht schneller als jene, die keine KI-Tools nutzten.

Eine Studie der Carnegie Mellon University fand eine erhöhte Fehleranfälligkeit von KI-generiertem Code. Google dagegen vermeldet eine Effizienzsteigerung von sechs Prozent im Vergleich zu einer Kontrollgruppe bei rund 10.000 Google-Entwicklern, die sich über drei Monate in acht Programmiersprachen von KI hatten helfen lassen.

Sicher ist: Schnelligkeit ist nicht alles. Manchmal geht sie auch noch in anderer Hinsicht nach hinten los, weiß Claudius Coenen, der als Informatikprofessor an der Hochschule Darmstadt unterrichtet: Als ChatGPT im November 2022 herauskam, haben seine Studierenden die neuen Möglichkeiten sofort „furchtlos“ genutzt.

Generell findet Coenen das nicht problematisch: „Dass die sich ihren Kram irgendwo zusammensammeln, ist nicht neu“, sagt er. „Früher hätten die halt nur gegoogelt oder wären bei Stack Overflow gelandet.“ Prinzipiell sei es schon in Ordnung, daraus zu lernen, wie andere ein Problem lösen. Aber KI-Codehelfer führten zu ungewöhnlichen Effekten: „Die Studierenden neigen dazu, sich zu übernehmen“, sagt Coenen. Sie nehmen sich zu große Projekte vor. Doch das kann schiefgehen: Zumindest aktuell spucken künstlich intelligente Helfer eben nicht immer funktionierenden Code aus. Und auch, wenn der Code im ersten Moment zu funktionieren scheint, überblicken die Studierenden ihn nicht. Zum Abschluss eines Seminars unterhält sich Claudius Coenen mit jedem seiner Schützlinge über das Spiel, das entwickelt wurde. „Daran, wie sie im Code herumscrollen, kann ich sehen, ob sie ihn verstehen oder nicht“, sagt er – und oft sei das leider nicht der Fall. „Sie scrollen durch den Code, als würden sie eine Wand herunterfallen und sich nur noch an wenigen Griffen festkrallen können“, sagt er.

Illusion von Effizienz

Zu diesem Schluss kommt auch ein kleines Experiment des MIT-Informatikprofessors Eric Klopfer: Er teilte seine Studierenden in drei Gruppen ein und gab ihnen eine Programmieraufgabe in einer Sprache, die sie nicht kannten. Eine Gruppe durfte ChatGPT nutzen, eine ein Sprachmodell von Meta, das speziell fürs Programmieren entwickelt wurde, und die dritte Gruppe durfte lediglich googeln. Während die erste Gruppe zwar am schnellsten fertig war, zeigte sich in einem späteren Test, dass sie das Problem ohne KI-Hilfe nicht erneut lösen konnte. Die zweite Gruppe konnte das teilweise – die Google-Gruppe bestand den Test komplett. Daraus sei klar geworden, dass „hart zu arbeiten und auch mal zu kämpfen“ ein wichtiger Bestandteil des Lernens sei, schlussfolgerte Klopfer.

Mariya Sha, die Youtuberin, findet es ebenfalls problematisch, dass die KI oft schon fertige Lösungen vorgibt. Aber aus noch einem anderen Grund: „Ich möchte gern die Quellen sehen und selbst beurteilen, auf was ich mich stütze.“ Schließlich sei das Internet voll von schlechtem Code, der in die Trainingsdaten von KI einfließe. „Sprachmodelle können nicht kritisch denken und Quellen hinterfragen“, sagt sie. Das sei ein gravierender Schwachpunkt. Sha programmiert seit sie zwölf ist, aus Spaß. „Ich bin eine kreative Person“ – und offenbar auch eine detailverliebte. Wenn sie sogenannte Bibliotheken in einem Programm verwende, also Sammlungen von vorgefertigten Funktionen wie Pandas, Numby oder TensorFlow, dann möchte sie alles wissen, was deren Entwickler dazu geteilt haben, um genau zu verstehen. „Ich sehe keinen Grund dafür, das Verständnis an einen Mittelsmann wie ChatGPT abzugeben.“ Denn am Ende führe ein Nicht-Durchdringen des Codes auch zu Sicherheitsproblemen. „Wenn LLMs immer die gleichen Fehler machen, dann wissen Hacker das sehr schnell.“

Gefährliche Muster

Tatsächlich finden sich im Output von KI-Modellen Muster. Das zeigt sich schon bei Texten, die ChatGPT ausgibt: Bestimmte Wendungen und Aufzählungen wiederholt der Chatbot besonders häufig. Auch beim Coden werden manche Lösungen überdurchschnittlich oft ausgegeben. Im Kern bleibt generative KI eine Wahrscheinlichkeitsmaschine, die auf Statistik basiert und Vorhersagen darüber trifft, welche Codezeilen mit hoher Wahrscheinlichkeit als Nächstes folgen. Daher neigen Modelle tendenziell dazu, häufig vorkommende Strukturen zu bevorzugen, was zu einer gewissen Uniformität der generierten Outputs führt. In der Cybersicherheit kann Uniformität aber schnell eine Gefahr sein: Wenn viele Systeme ähnlichen Code verwenden, fehlt die schützende Vielfalt, und Schäden sind leichter verursacht.

Das belegen auch erste Studien. So fanden die Stanford-Informatikerin Megha Srivastava und ihr Team heraus, dass KI-Nutzung statistisch gesehen tatsächlich zu unsichererem Code führt. Sie ließen dafür 47 Testpersonen die gleichen Aufgaben in drei verschiedenen Programmiersprachen erledigen: die erste Gruppe mit der Hilfe von KI, die zweite ohne. Die erste Gruppe produzierte deutlich unsichereren Code mit teils verbreiteten Sicherheitslücken. Srivastava erklärt sich das damit, dass die Modelle Mengen an unsicherem Code in ihren Trainingsdaten hatten – das liege in der Natur von Portalen wie Github: „Viele diskutieren auf Github oder Stack Overflow ihre Coding-Probleme“, sagt sie. User veröffentlichen dort also Code, der noch nicht funktioniert oder auch Übungen zur IT-Sicherheit, inklusive extra unsicherem Code. „KI kann aber nicht unterscheiden, was unsicher ist und was nicht“, sagt Srivastava. „Für ein Modell im Training ist Code einfach Code.“

Ein nicht weniger besorgniserregendes Ergebnis der Studie war, dass die Teilnehmenden mit Code-Assistenten eher der Meinung waren, sicheren Code zu schreiben, als diejenigen ohne. Insgesamt deuteten Srivastavas Ergebnisse darauf hin, dass KI zwar die Einstiegshürde für Nicht-Programmierer deutlich senken und die Produktivität von Entwicklern erhöhen kann, „aber unerfahrenen Usern ein falsches Gefühl der Sicherheit vermittelt“.

Um diesen Herausforderungen zu begegnen, müsse sich die Ausbildung künftiger Programmierer ändern, fordert Srivastava: „Wir müssen viel mehr zu Testern und Überprüfern ausbilden“, sagt sie. Nur: Dann ist die Frage, ob nicht genau das wegfällt, was Menschen am Programmieren oft besonders lieben: der kreative Schaffensprozess.

Matt Welsh, der Harvard-Gastredner, wird seit seiner „1.200 Dollar zu 12 Cent“-Rechnung für die steile These seiner Vorlesung angegriffen. „Immer wieder sagen mir Leute, das sei totaler Unsinn. KI funktioniere doch gar nicht gut“, sagt er. Aber er fühlt sich missverstanden. Denn es gehe ihm gar nicht darum, ob KI heute bereits in der Lage sei, perfekten Code zu schreiben. Genau genommen gehe es gar nicht darum, überhaupt Code zu schreiben, sagt er im Interview mit brand eins.

Sein Fernziel liegt vielmehr noch einen ganzen Schritt weiter: der „Natural-Language-Computer“, also ein Computer, der sich einfach durch natürliche Sprache steuern lässt. Um das zu erklären, holt er ein wenig aus: „Menschen sind schlecht im Programmieren“, sagt Welsh. „Seit 50 Jahren erfinden wir immer neue Programmiersprachen, aber dieses Problem werden wir so nicht lösen.“ Denn sei es nicht seltsam, dass Maschinen Menschen gebraucht haben, die ihre Maschinen-Sprachen lernen mussten? Wenn sie immer klüger werden, sollten sie dann nicht einfach verstehen, was wir sagen, statt uns weiterhin mühsam in ihrer Sprache mit ihnen sprechen zu lassen?

Es gehe also nicht darum, dass das Programmieren automatisiert werde. „Das Ziel“, sagt Welsh, „ist gar nicht mehr zu programmieren.“ Sondern dem Computer einfach in normaler menschlicher Sprache zu sagen, was er tun soll: „The hottest new programming language is English“, wie der KI-Vordenker Andrej Karpathy gern sagt. Englisch! Oder auch Italienisch, Finnisch, Spanisch und Deutsch.

Jenseits des Codes

Programmieren ist während der Geschichte der Informatik stets simpler geworden. Anfangs konnten nur wenige Spezialisten, die mit der binären Sprache der Einsen und Nullen vertraut waren, Computer steuern. Mit der Entwicklung von Programmiersprachen, von Assembler über Fortran bis hin zu den leichter verständlichen Sprachen von heute, wurde es immer leichter zugänglich. Nun könnte die künstliche Intelligenz die Kulmination dieser Entwicklung sein: die Stufe, auf der man einem Computer einfach sagen kann, was er tun soll, ganz so, wie man es einem Menschen sagen würde.

Lange dauert es aus der Sicht des „The End of Programming“-Gastredners Matt Welsh nicht mehr bis der Natural-Language- Computer brauchbare Formen annimmt: „Eher fünf als zehn Jahre“, meint Welsh. Früher habe es Rechenschieber gegeben. Heute wisse kaum jemand mehr, was genau das sei. „Rechenschieber sind ein Relikt“, sagt Welsh. Das Konzept, dass wir einem Menschen überdurchschnittlich viel Geld bezahlen, damit er einem Computer in dessen Sprache sagt, was zu tun ist, könnte bald genau das sein: ein Relikt.

Das sagen auch Branchengrößen wie Nvidia-Chef Jensen Huang: „Jeder Mensch ist nun ein Programmierer.“ Alles, was gegolten habe – nämlich dass es wichtig ist, den eigenen Kindern Informatik nahezubringen und sie programmieren lernen zu lassen – gelte nun nicht mehr. „Es ist unsere Aufgabe, Computertechnik so zu bauen, dass niemand mehr programmieren muss und dass die Programmiersprache menschliche Sprache ist“, sagte Huang beim diesjährigen World Government Summit.

Das sei besonders spannend, weil Fachleute aus anderen Bereichen auf diese Weise bald nicht mehr unbedingt die Hilfe von Programmierern brauchten, um ihre Ideen umzusetzen. Sie können einfach dem Computer in normaler Sprache sagen, was sie wollen. Der Vorteil? Schnelligkeit – und viel mehr Kreativität und Wissensgewinn auf allen Ebenen.

In den nächsten Jahren könnte künstliche Intelligenz also das Programmieren von einem seltenen, hoch bezahlten Beruf in eine weithin zugängliche Fähigkeit verwandeln, die Menschen leicht erlernen und als Teil ihrer Arbeit in einer Vielzahl von Bereichen und mit ihrem vielfältigen Fachwissen nutzen können.

Das muss nicht unbedingt schlecht für Programmierer sein. Die Welt wird sicher auch im Zeitalter der KI noch Menschen mit deutlich fortgeschrittenen Computerkenntnissen brauchen und gut bezahlen wollen. Aber für den Rest von uns könnte es großartig werden. //

Weiterführende Artikel von Lightspeed