Ineffizient

Mit Effizienz misst man die Ressourcennutzung – also das Verhältnis von Ergebnis zu eingesetzten Mitteln (Zeit, Geld, Material, Personal). Der Ressourcenverbrauch von LLMs ist enorm und mir erscheint es schon länger so, als ob man so etwas wie ein Auto erfunden hätte, aber dummerweise mit einem Benzinverbrauch von 10 Litern pro Kilometer. Solange ich das Benzin verschenke, habe ich damit die ultimative Konkurrenz zu Trägern und Pferdefuhrwerken. Blöd nur, wenn ich mit dem Verschenken aufhöre. Das geschieht allmählich bei OpenAI, Anthropic und Co . LLMs sind eine spannende Technologie, aber im Effizienzvergleich mit einem menschlichen Gehirn schneiden sie nicht so doll ab. Und wenn die tatsächlichen Kosten in Rechnung gestellt werden, dann schrumpft die „KI-Revolution“ auf ein überschaubares Maß, nämlich das bezahlbare Maß. Große Modelle zu benutzen, kostet halt sehr viel und lohnt sich nicht so ohne Weiteres. Anekdote am Rande: Gestern schätzten mein Team und ich eine Story (wir…