Samo bi se Apple usudio da rebrenduje AI. Da li će uspjeti?

Korisnici Mac-ova i najnovijih iPhone-a, kako je najavljeno iz kompanije, koristit će novu tehnologiju za ispisivanje e-pošte, transkribovanje i sumiranje poziva, generisanje slika i, što je najprivlačnije, unakrsne informacije iz Appleovih aplikacija.

“Hoću li na vrijeme doći na predstavu svoje kćeri?” Pitao je šef softvera u Apple-u Kreg Federigi u jednom demo-u na godišnjoj svjetskoj konferenciji za programere kompanije (WWDC) u ponedjeljak. Apple Intelligence će razgovarati sa aplikacijama Calendar, Maps, Mail i iMessage svog iPhone-a iza kulisa kako bi odgovorio na ovo pitanje.

Nakon niza svakodnevnih ažuriranja njegovog iOS i Mac OS softvera, ovo su najuzbudljivije funkcije u godinama koje su izazvale pohvale tehnologa na X-u. Ali hoće li Apple Intelligence zaista raditi tako besprijekorno kao u unaprijed snimljenim demo verzijama, kada se pojavi ove jeseni na uređajima širom svijeta?

“Sklona sam vjerovati da ćemo vidjeti probleme zbog kojih će biti teško prodati ga potrošačima — barem u početku”, navodi Olson u svojoj kolumni.

Najsofisticiraniji AI alati danas obrađuju vaše upite na moćnim serverima u oblaku koji zahtijevaju internetsku vezu. Appleov iPhone ima djelić snage tih servera, ali kako bi njegova AI usluga bila privatna i brza, pokrenut će neke AI upite putem Siri „na uređaju“, na malom jezičkom modelu koji je Apple sam napravio za rad na iPhoneu. Nije potrebna internetska veza.

Apple Intelligence će također u hodu odlučiti da li se na upit poput „Hoću li doći na nastup svoje kćeri na vrijeme?” zahtijeva dodatnu računarsku snagu. Ako to učini, pristupit će većem AI modelu koji je Apple napravio, preko nečega što se zove “Private Cloud Compute”, što je u suštini Apple-ov vlastiti server. Sve što je još složenije zahtijevat će upit ChatGPT-u, putem partnerstva sa OpenAI. Apple se, divno, potrudio da zadrži ovaj proces privatnim, pri čemu su zahtjevi za upite šifrovani s kraja na kraj i nedostupni drugima.

Cijena svega ovoga mogla bi biti brzina.

Kada Apple odgovori na upit koristeći svoj manji AI model na uređaju, to će učiniti s kašnjenjem od 0,6 milisekundi po prompt tokenu, prema Appleovom blogu koji najavljuje nove funkcije, što je brže od treptaja oka. Ali Apple nije ponudio odgovarajuća vremena kašnjenja kada telefon mora pristupiti svom Private Cloud Compute-u za složenije zadatke i to je propust vrijedan pažnje. Vjerovatno će biti sporije, ali za koliko? Apple ne daje odgovor na ovo pitanje.

Koliko god ovo zvučalo površno, potrošači mrze da čekaju nekoliko dodatnih sekundi na stvari koje mogu sami da urade, a ako je jednostavno brže potražiti nešto u svom kalendaru ili aplikacijama za mapiranje, mogli bi odlučiti da u potpunosti izbjegnu korištenje Apple Intelligence-a.

S druge strane, iako će AI na uređaju biti brži, takođe će biti skloniji greškama. Prema Appleu, manji AI model je sposoban otprilike kao GPT-3.5 Turbo, koji je OpenAI lansirao prije više od godinu dana i koji nema zvjezdanu reputaciju za preciznost. Stopa halucinacija za GPT 3.5 kretala se od 3,5% do više od 15% , prema različitim procjenama, što ukazuje na još jedan Appleov propust. Nije ponudio stope tačnosti ni za jedan od svojih novih AI modela. Zapamtite da su čak i najsofisticiraniji modeli koji dolaze od vodećih igrača poput Googlea i dalje smiješno skloni greškama. Apple je mogao otkriti neke pristojne stope halucinacija, prenosi Investitor me. Umjesto toga, ponudio je nejasne statističke podatke o tome kako su ljudi iz razreda “preferirali” njegovu vještačku inteligenciju u odnosu na druge.

Nije ni čudo što je viši izvjestitelj Bloomberga za Apple, Mark Gurman, rekao da će nove AI funkcije biti u greškama i biti u „beta“ fazi kada budu lansirane ove jeseni.

Appleova uloga u centru života njegovih kupaca i njegov pristup gomili ličnih podataka mogli bi na kraju biti i blagoslov i prokletstvo. Bolje je pozicioniran od većine tehnoloških kompanija da bi AI bila korisna jer je tako duboko uključena u naše svakodnevno postojanje. Ali to također znači da ne može sebi priuštiti da napravi previše grešaka.

Federigijev primjer da je uspio na vrijeme stići na predstavu svoje kćeri je dobar primjer. Kada bi Apple Intelligence nehotice zakasnio svog korisnika 30 minuta, to ne bi bilo lako oprostiti. Slično se dogodilo i Apple Maps-u, gdje je niz grešaka u ranim danima poslao ljude konkurentima kao što su Waze i Google Maps godinama nakon toga. Ne pomaže ni to što je Apple bio spor u usvajanju generativne AI, dijelom zahvaljujući manjem AI timu u poređenju s drugim velikim tehnološkim firmama i istoriji problema s upravljanjem u svom odjeljenju Siri.

Appleov privatniji pristup je dobrodošao stav, a kompaniju treba pohvaliti što se drži svog oružja u korišćenju privatnih, šifrovanih servera, dok drugi igraju brzo i labavo sa vještačkom inteligencijom u borbi za prevlast. Ali navesti potrošače da prihvate njegove ambiciozne nove funkcije neće biti lako kada se sjajne demo verzije odjednom postanu stvarne, zaključuje Olson.