LLM-Code ist der Asbest der digitalen Zeit

In der aktuellen Diskussion um LLM-erzeugten Code ist der Hype groß, dass die Modelle hunderte, wenn nicht tausende Zeilen funktionierenden Code generieren können. Cory Doctorow (@pluralistic) weist jedoch richtigerweise darauf hin, dass Code an sich keinen Wert hat – auch nicht eine Sammlung von Codezeilen, die vordefinierte Tests besteht. Denn: „any nontrivial code has to interact with the outside world, and the outside world isn’t static, it’s dynamic“. Daraus ergibt sich, dass jede geschriebene Codezeile als „tech debt“ verstanden werden kann, da sie im Laufe der Zeit immer wieder gewartet und evtl. an veränderte Umstände angepasst werden muss: Code is not an asset – it’s a liability. The longer a computer system has been running, the more tech debt it represents. Dazu kommt, dass LLM-generierter Code notorisch schlecht darin sein soll, auf unerwartete Eingaben zu reagieren oder generell Fehlerzustände abzufangen. Dann wäre er fehleranfälliger als menschlich geschriebener Code und…