26. Dezember 2024 - In einem aktuellen Interview warnte Demis Hassabis, CEO von Google DeepMind, dass die Technologiebranche möglicherweise mit abnehmenden Erträgen bei der Entwicklung von künstlicher Intelligenz konfrontiert sein könnte, da es an verfügbarem digitalem Text mangelt. Diese Beobachtung folgt Gesprächen mit 20 Führungskräften und Forschern, die glauben, dass der Großteil des Internetttexts bereits genutzt wurde.
Hassabis, der einen Nobelpreis für seine Beiträge zur KI entgegennehmen wird, stellte fest, dass die herkömmliche Methode zur Verbesserung großer Sprachmodelle durch riesige Datenmengen an ihre Grenzen stößt. 'Jeder in der Branche sieht abnehmende Erträge', sagte er.
Trotz fortlaufender erheblicher Investitionen in KI, einschließlich Databricks, das sich der Finanzierung von 10 Milliarden Dollar nähert, tauchen Bedenken über ein langsameres Wachstum auf. Einige Branchenführer, wie Sam Altman von OpenAI und Jensen Huang von Nvidia, bleiben optimistisch bezüglich des fortgesetzten Fortschritts.
Die Debatte geht auf ein Papier von Jared Kaplan aus dem Jahr 2020 zurück, das die 'Skalierungsgesetze' festlegte und vorschlug, dass KI-Systeme sich mit zunehmender Datenaufnahme verbessern. Experten warnen jedoch jetzt, dass diese Gesetze möglicherweise nicht unbegrenzt gültig sind, wobei Ilya Sutskever die Notwendigkeit betont, sich an die begrenzten verfügbaren Daten anzupassen.
Um diese Herausforderung zu bewältigen, erkunden Forscher neue Methoden, einschließlich der Verwendung von 'synthetischen Daten', die von den KI-Systemen selbst generiert werden. Die kürzliche Veröffentlichung eines von OpenAI auf diesem Prinzip basierenden Systems zeigt Potenzial, obwohl es Einschränkungen in breiteren Anwendungen über Mathematik und Programmierung hinaus gibt.
Obwohl Huang von Nvidia zuversichtlich in die anhaltende Nachfrage nach KI-Infrastruktur ist, erkennen einige große Kunden wie Meta die Notwendigkeit, sich auf ein potenzielles Plateau im Fortschritt der KI vorzubereiten.