Originalarbeiterreichbar
Small Language Models are the Future of Agentic AI
Belcak und sieben Mitautoren bei NVIDIA legen am 02.06.2025 dar, warum kleine Sprachmodelle für Agenten die passendere Wahl sind. Wichtig daran ist die Bestimmung von klein, die ohne willkürliche Parametergrenze auskommt: Sie geht über das Gerät und über die Antwortzeit für einen einzelnen Nutzer. Als Faustzahl für 2025 nennen die Verfasser 10 Milliarden Parameter. Die Arbeit ist ausdrücklich ein Positionspapier, und ihre Wirkungsangaben stammen vom Hersteller der Rechenkarten, auf denen solche Modelle laufen.
geprüft 24.09.2026
Worauf sich diese Seite beruft, wörtlich, abgerufen am 04.09.2026:
A SLM is a LM that can fit onto a common consumer electronic device and perform inference with latency sufficiently low to be practical when serving the agentic requests of one user.
bestätigt 24.09.2026We note that as of 2025, we would be comfortable with considering most models below 10bn parameters in size to be SLMs.
bestätigt 24.09.2026The rise of agentic AI systems is, however, ushering in a mass of applications in which language models perform a small number of specialized tasks repetitively and with little variation.
bestätigt 24.09.2026there is a non-negligible body of empirical evidence of the superiority of large language models in general language understanding over small language models of the same generation
bestätigt 24.09.2026