Opera uruchamia AI na twoim laptopie, bez abonamentu i bez chmury

Przeglądarka Opera na komputery może teraz uruchamiać model AI na urządzeniu, na którym została zainstalowana, i udostępniać go stronom oraz rozszerzeniom, na które użytkownik wyrazi zgodę. Funkcja nosi nazwę WebAI i jest dostępna we wczesnej wersji zapoznawczej w Opera One. Po jej włączeniu przeglądarka pobiera model z otwartymi wagami, taki jak Gemma od Google, a na Macu korzysta z modelu bazowego, który Apple wbudowuje w swój system operacyjny. Każda zatwierdzona strona może poprosić go o napisanie, uporządkowanie lub porównanie tekstu.

W praktyce zmienia się to, kto płaci i dokąd trafiają wpisywane przez nas słowa. Rozszerzenie przeglądarki, które streszcza artykuły albo porządkuje karty za pomocą AI, zwykle wysyła treść strony do usługi w chmurze, co oznacza konieczność założenia konta, użycia klucza API albo wykupienia miesięcznego planu. W WebAI tekst pozostaje na laptopie, twórca rozszerzenia nie płaci za każde zapytanie, a użytkownik nie ponosi żadnych kosztów. „Wiele zastosowań AI, których oczekują ludzie, nie wymaga centrum danych. Laptop już potrafi sobie z nimi poradzić, bez wysyłania danych gdziekolwiek” — powiedział Krystian Kolondra, wiceprezes wykonawczy Opery ds. przeglądarek i AI.

Twórcy dostają do dyspozycji trzy podstawowe narzędzia, które Opera nazywa Prompt, Decision i Semantic Embeddings APIs. Mówiąc prościej, pozwalają one stronie generować tekst, przypisywać informacje do kategorii i mierzyć podobieństwo dwóch treści. Przykłady podane przez Operę są celowo niewielkie: rozszerzenie oznaczające clickbait, narzędzie wyszukujące podczas przeglądania pasujące oferty pracy oraz takie, które koloruje akapity artykułu zależnie od tego, jak bardzo są istotne dla opisanego przez użytkownika projektu.

Aby pokazać szeroki zakres możliwości, Opera udostępniła sześć eksperymentalnych rozszerzeń i zaznacza, że są to demonstracje, a nie funkcje gotowego produktu. Jedno układa krótki quiz sprawdzający, czy użytkownik zrozumiał właśnie przeczytany artykuł. Inne, Semantic Art, przekształca stronę w ruchome kształty, wśród których podobne zdania przemieszczają się obok siebie. Niektóre pomysły to jawne żarty, jak narzędzie przerabiające dowolny artykuł na „nieznośnie inspirujący” wpis w parodystycznej sieci RecordIn czy dwa koty z ASCII, które improwizują scenkę na dowolny wpisany temat.

Większe ambicje kryją się w słowie „standard”. WebAI to proponowany standard internetowy, który — jak twierdzi Opera — popierają Google i Microsoft. Chrome już udostępnia twórcom własne wbudowane interfejsy AI, działające w oparciu o model Gemini Nano od Google. Rozwiązanie Opery nie jest związane z jednym modelem: może korzystać z modeli otwartych dystrybuowanych przez Operę, zgodnych modeli dostępnych już na urządzeniu albo modelu Apple działającego lokalnie. Jeśli przeglądarki uzgodnią wspólny interfejs, twórca będzie mógł napisać funkcję AI tylko raz i uruchamiać ją na modelu dostępnym w przeglądarce każdego odwiedzającego, zamiast wynajmować moc obliczeniową w chmurze dla każdego czytelnika.

Ograniczenia są jednak realne. WebAI jest w wersji zapoznawczej i działa wyłącznie na 64-bitowych komputerach z systemem Windows oraz procesorami Intel lub AMD, a także na Macach z układami Apple. Nie skorzystają z niego użytkownicy Linuksa, Maców z procesorami Intel ani komputerów z systemem Windows na architekturze Arm. Opera nie podała też żadnych informacji o swoich przeglądarkach na telefony. Modele lokalne są znacznie mniejsze od tych, które napędzają największe chatboty w chmurze, a sama Opera ostrzega, że szybkość działania zależy od sprzętu — starszy laptop odpowie więc wolniej niż centrum danych. Pozostawienie tekstu na urządzeniu chroni tylko te informacje, które przetwarza model: strona, której użytkownik udzieli dostępu, nadal widzi jego aktywność, tak jak dotąd.

Opera pozostawia decyzję użytkownikowi. Nic nie zostanie pobrane, dopóki WebAI nie zostanie włączone w ustawieniach AI przeglądarki; pobranie pierwszego modelu może zająć kilka minut, każda strona wymaga osobnej zgody, a całą funkcję można w dowolnej chwili wyłączyć. Dla firmy, która od lat promuje swoje przeglądarki jako dbające o prywatność i twierdzi, że korzystają z nich setki milionów osób, możliwość samodzielnego włączenia funkcji jest kluczowym elementem tej propozycji.

Premiera, ogłoszona w Oslo 27 października, rozwija eksperymentalną wersję dla deweloperów z 2024 roku, w której Opera jako pierwsza duża przeglądarka zaoferowała wbudowany dostęp do modeli lokalnych. WebAI zadebiutowało równolegle z HTML-in-Canvas — odrębną funkcją dla twórców, która umieszcza działające, interaktywne strony internetowe w scenach 2D i 3D i jest przeznaczona do gier oraz Opery GX. Następnie WebAI trafi do Opery GX, przeglądarki dla graczy, oraz Opera Neon, przeglądarki firmy opartej na agentach; nie podano terminu. Opera planuje również udostępniać kolejne otwarte modele dostosowane do różnych urządzeń oraz więcej narzędzi dla twórców.

Dopóki jednak inne przeglądarki nie udostępnią tego samego interfejsu, funkcje oparte na WebAI będą działać tylko u osób korzystających już z Opery. To, czy sytuacja się zmieni, zależy mniej od samej Opery, a bardziej od tego, czy Google i Microsoft przełożą deklarowane poparcie dla tej propozycji na jej wdrożenie we własnych przeglądarkach.

Tagi: Google, Apple, Gemma, lokalna AI, Opera One, WebAI