Liquid AI LFM2.5-VL-450M: Vision-Language-Inferenz unter 250 ms auf Edge-Hardware

Liquid AI hat das Vision-Language-Modell LFM2.5-VL-450M veröffentlicht, das durch lokale Verarbeitung auf Edge-Geräten mit geringer Latenz und ohne Cloud-Anbindung überzeugt. Dieses Modell kombiniert einen LFM 2.5 350M Language Backbone mit einem SigLIP 86M Vision Encoder und nutzt eine rekurrente Hybrid-Architektur. Das Training umfasste 28 Billionen Tokens, fast dreimal so viel wie beim Vorgänger, und wurde durch Preference-Optimierung sowie Reinforcement Learning weiter verfeinert.

LFM2.5-VL-450M bietet mehrere Neuerungen: Bounding-Box-Prediction, Function Calling und deutlich verbessertes Instruction Following. Es unterstützt zudem neun Sprachen und Grounding-Fähigkeiten, die strukturierte Outputs mit semantischem Reasoning verbinden. Auf mobilen Chips wie dem Snapdragon 8 Elite bleibt die Latenz für kleinere Auflösungen unter einer Sekunde. Das Modell kann über gängige Frameworks wie llama.cpp (GGUF), ONNX und Hugging Face sowie Liquid AIs LEAP-Framework für iOS und Android bereitgestellt werden, mit nativer Unterstützung für Quantisierung auf Q4_0 und INT4. Die Anwendungsbereiche sind vielfältig und reichen von der Industrieautomatisierung bis zu Wearables, die latenzkritische, datenschutzsensible oder konnektivitätsbeschränkte Umgebungen bedienen.

Die vollständig lokale Verarbeitung des Modells ist besonders relevant für DSGVO-sensible Einsatzfelder, da personenbezogene Bilddaten das Gerät nicht verlassen müssen. Im Hinblick auf den EU AI Act, dessen Hochrisiko-Regeln für KI-Systeme ab August 2026 gelten, bietet die Edge-Deployment-Architektur mit deterministischer Latenz und lokaler Datenhaltung erhebliche Vorteile bei der Erfüllung von Compliance-Anforderungen im Vergleich zu Cloud-basierten Lösungen. Das Modell ist über Hugging Face öffentlich verfügbar.