WebNN: Die AI-Revolution im Browser?

Viele Entwickler:innen möchten derzeit KI-Funktionen in ihre Anwendungen bringen. Bislang führt dieser Weg immer in die Cloud. Muss das so sein? Nein, sagt das W3C mit seiner neuen Web Neural Network API (WebNN). Viele aktuelle Computer verfügen über eine Neural Processing Unit (NPU), die es ermöglicht, KI-Modelle wie Large Language Models (LLM) oder Stable-Diffussion-Modelle effizient auf der eigenen Hardware auszuführen. WebNN wiederum soll Entwicklern einen effizienten Zugriff auf die NPU bieten. Dadurch können Entwickler die Leistungsfähigkeit von AI-Technologien voll ausschöpfen und zukunftsweisende Anwendungen direkt für den Browser entwickeln: offlinefähig, komplett lokal und möglicherweise sogar komplett kostenlos.
In diesem Konferenzbeitrag wird Christian Liebel die Funktionsweise des WebNN API vorstellen, mögliche Anwendungsfälle diskutieren und die Einschränkungen des Ansatzes aufzeigen. Er vertritt Thinktecture beim W3C, das für die Spezifikation der WebNN-API verantwortlich ist.