Wie sieht KI 2030 aus?

Für 2030 kursieren viele Vorhersagen. Hilfreicher als eine Jahreszahl ist eine andere Frage: Wo stoßen heutige Sprachmodelle an Grenzen, und welche Ansätze arbeiten daran? So geht der Lehrgang Manager für KI-Kompetenzen (IHK) in Modul 1 vor. Er beschreibt vier Entwicklungswege, ordnet jedem eine eigene Grenze zu und hält es für wahrscheinlich falsch, auf einen einzigen Sieger zu setzen.

Vier Ansätze, vier verschiedene Grenzen

• Scaling: größere Modelle, mehr Daten, mehr Rechenleistung. Der Lehrgang sieht hier die Grenze der Datenmenge. Empirisch beschrieben haben den Ansatz unter anderem zwei Arbeiten: Kaplan und Kollegen zeigten 2020, dass sich die Vorhersagequalität von Sprachmodellen mit Modellgröße, Datenmenge und Rechenaufwand nach einem Potenzgesetz verbessert. Hoffmann und Kollegen folgerten 2022, dass Modellgröße und Trainingsdaten bei festem Rechenbudget im gleichen Maß wachsen sollten. Offen ist, wie lange der Nachschub an Texten reicht: Villalobos und Kollegen schätzen, dass Modelle bei anhaltendem Trend zwischen 2026 und 2032 mit Datensätzen trainiert werden könnten, die etwa dem gesamten Bestand öffentlich verfügbarer, von Menschen geschriebener Texte entsprechen.

• Reasoning: Modelle lernen in einem eigenen Training, Probleme schrittweise zu zerlegen und Zwischenergebnisse zu überprüfen. Nach Darstellung des Lehrgangs zielt das auf die Grenze der logischen Tiefe, unabhängig von der Datenmenge, und lässt sich mit Scaling kombinieren. Snell und Kollegen fanden 2024, dass zusätzliche, geschickt verteilte Rechenzeit während der Antwort in bestimmten Aufgaben ein 14-mal größeres Modell übertreffen kann. DeepSeek-AI berichtete 2025, dass sich solche Fähigkeiten allein über verstärkendes Lernen anstoßen lassen, ohne von Menschen ausgearbeitete Lösungswege.

• World Models: Solche Systeme sollen erfassen, wie die Welt funktioniert, also physikalische Abläufe sowie Ursache und Wirkung, statt allein Muster in Texten zu lernen. Der Lehrgang verortet hier die Grenze des Verstehens, die Frage nach dem Warum, und beschreibt den Ansatz als aktive Forschung, die heute vor allem in der Robotik eine Rolle spielt. Ein Beispiel aus der Forschung ist die Arbeit „World Models“ von Ha und Schmidhuber (2018): Ein Agent lernt dort eine verdichtete Darstellung seiner Umgebung und lässt sich sogar innerhalb der von diesem Modell erzeugten Simulation trainieren.

• Dauerhaftes Lernen: Ziel ist ein Modell, das Neues nach und nach dazulernt, statt für jede Aktualisierung ein komplett neues Grundtraining zu brauchen. Der Ansatz zielt auf die Zeitgrenze, den Trainingsstichtag. Als Kernproblem nennt der Lehrgang das Catastrophic Forgetting: Wer ein Modell mit frischen Daten weitertrainiert, riskiert, dass es früher Gelerntes verliert. Kirkpatrick und Kollegen stellten 2016 einen Gegenansatz vor, der das Lernen gezielt bei den Gewichten verlangsamt, die für frühere Aufgaben wichtig sind. Für große Sprachmodelle gilt das Problem laut Lehrgang als nicht gelöst.

Nicht zu verwechseln ist das mit RAG. Dabei schlägt ein System vor der Antwort in aktuellen Quellen nach. Der Lehrgang nennt das eine praktische Antwort auf die Stichtagsgrenze, betont aber: Das Modell selbst lernt dabei nichts dazu. Eine Grundlagenarbeit dazu stammt von Lewis und Kollegen (2020), die ein vortrainiertes Sprachmodell mit einem durchsuchbaren Wissensspeicher verbanden.

Warum der Lehrgang nicht auf einen Sieger setzt

Naheliegend wäre die Erwartung, dass sich einer der vier Wege durchsetzt und die anderen an Bedeutung verlieren. Der Lehrgang hält das für wahrscheinlich falsch. Seine Begründung: Die Ansätze bearbeiten unterschiedliche Grenzen, und diese Grenzen bestehen gleichzeitig. Führende Labore verfolgen nach seiner Darstellung deshalb schon heute mehrere Wege parallel.

Für das Einordnen von Neuigkeiten ergibt sich daraus eine nützliche Frage. Statt „Welcher Weg gewinnt?“ fragst du: „Welche Grenze bremst gerade am stärksten, und welcher Ansatz zielt darauf?“ Mehr Rechenzeit beim Antworten betrifft die logische Tiefe, das Nachschlagen in aktuellen Quellen den Stichtag. Wie du einzelne Systeme nach Leistung und Breite einordnest, zeigt der Beitrag Warum führt das Stufenmodell ANI, AGI, ASI in die Irre?

Quellen: Kaplan et al., „Scaling Laws for Neural Language Models“ (arXiv 2001.08361, 2020); Hoffmann et al., „Training Compute-Optimal Large Language Models“ (arXiv 2203.15556, 2022); Villalobos et al., „Will we run out of data? Limits of LLM scaling based on human-generated data“ (arXiv 2211.04325, 2022, überarbeitet 2024); Snell et al., „Scaling LLM Test-Time Compute Optimally can be More Effective than Scaling Model Parameters“ (arXiv 2408.03314, 2024); DeepSeek-AI, „DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement Learning“ (arXiv 2501.12948, 2025); Ha und Schmidhuber, „World Models“ (arXiv 1803.10122, 2018); Kirkpatrick et al., „Overcoming catastrophic forgetting in neural networks“ (arXiv 1612.00796, 2016); Lewis et al., „Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks“ (arXiv 2005.11401, 2020).