KI im Browser: Smartere Web-Apps mit WebGPU und WebNN
Inhalt des Webinars
Entwickler integrieren vermehrt Generative-AI-Funktionen in Anwendungen, bislang meist durch die Cloud. Das muss aber nicht so sein: Alternativ können KI-Modelle lokal auf dem Rechner des Anwenders laufen: Hugging Face ermöglicht mit Transformers.js Machine-Learning-Modelle direkt im Browser, während die Web Neural Network API (WebNN) des W3C zukünftig Zugang zur Neural Processing Unit (NPU) des Geräts bieten wird. Dadurch können Large Language Models (LLM) oder Stable-Diffusion-Modelle effizient im Browser betrieben werden. Vorteile: Lokal ausgeführte KI-Modelle sind offline verfügbar, Nutzerdaten bleiben auf dem Gerät und das alles dank Open-Source-Modellen kostenfrei. Nachteile: Das Modell muss auf das Gerät übertragen werden und dessen Leistungsfähigkeit muss ausreichend sein. In diesem Webinar präsentiert Christian Liebel verschiedene Ansätze, um Single-Page Apps intelligenter zu gestalten, diskutiert Anwendungsfälle und zeigt Vor- und Nachteile der Lösungen auf.
Wann
Mittwoch, 10/01/2024 · 10:30
Berlin (GMT +1:00)
Das Webinar wurde beendet
Agenda
Grundlagen zu Large-Language- und Stable-Diffusion-Modellen
Übersicht zu WebNN
Vor- und Nachteile von Offline-KI-Modellen im Browser verstehen