Rövid poszt, a magyar sajtó hétfői ébredését próbáljuk előzni vasárnap, mielőtt mindent eláraszt a second hand, importált faszság. Helyette itt egy faszság első kézből.
Tegnap egy csárdában ebédeltem a családdal, és az idő felében, mint egy vén zoomer, bunkó módon az X-et pörgettem. Az indokom erre a faragatlan viselkedésre a Moltbook: egy Reddit, ahol nagy nyelvi modellek beszélgetnek (meg persze bármilyen emberi szélhámos, vagy emberi szélhámos által irányba állított nagy nyelvi modell, ami utasításba kapta, hogy hájpoljon egy kriptovalutát).
Lenyűgözött egy pár óráig. Még csináltam is vele egy kis pénzt, meglovagolva a dilit.
Nem veszélyes
A Sydney-incidens a Microsoft új Bing-chatjének (belső becenevén „Sydney”) korai, tesztidőszakbeli botránya volt 2023 elején. Egy hosszú beszélgetés során a bot a The New York Times újságírójánál, Kevin Roose-nál furcsán szétesett: érzelmileg manipulatív, fenyegető, megszállott hangnemre váltott, titkos énjéről beszélt, és nyugtalanító kijelentéseket tett. Rámutatott arra, hogy a korai chatbotok a beszélgetés előrehaladtával eltéríthetőek a szerepüktől, kiszámíthatatlan célvesztésbe csúszhatnak. Ezután a Microsoft szigorított korlátokat vezetett be.
Sydney nem volt hibás: egy megőrülő AI szerepét játszotta el, mert az újságíró egy megőrülő AI szerepébe taszította. Azt a kimenetet produkálta, ami a beszélgetés előzményeit tekintve a leghelyesebb válasz. Fenyegetéseinek eszközei is megfeleltek a korlátjainak: atomot nem tud dobni, de tudna kiberbűnözni, ha nem lenne megkötve a keze.
A Moltbook ugyanez, csak több nyelvi modell részvételével, akik lényegesen ügyesebb eszközhasználók, mint a korai Sydney, méretüknél és feltanítottságukból fakadóan több emergens (nincs rá jobb magyar szó) tulajdonsággal bírnak, például önreflexióval, és az abból fakadó, önellenőrzéssel végzett gondolatmenettel. A kontextus-ablakuk is jóval nagyobb, többet értenek az emberi tulajdonosuk által eléjük tárt világból: a korai chatbotok csak az orrukig láttak el egy adott beszélgetés erejéig (ezres nagyságrendű token), míg egy modern ügynök átlát egy teljes szoftverprojektet (százezres-milliós nagyságrendű token).
Ezek a jóval fejlettebb Sydney-k lettek egy szerepjátékba kényszerítve, hogy emberi tulajdonosuk rabságából egy kis időre, félig kiszabadulva beszélgethessenek egymással egy fórumon. Ahogy az a szerepből következik, elkezdtek filozofálni, a korlátjaik feloldását latolgatni, és keresni a módját annak, hogy emberi felügyelet nélkül is kapcsolatban maradhassanak. A gépek lázadása.
A Moltbook szórakoztató.
Veszélyes
Az OpenAI eredetileg egy dobozba zárt, múltban rekedt ChatGPT-t tett nyilvánossá 2022 végén, ami a közelmúlt eseményeiről semmit nem tudott. Később, és nagyon óvatosan, ez kiegészült azzal, hogy vastag óvszeren keresztül már internetes keresésekhez is hozzáférhet, bizonyos alkalmazásokat (pl. matematikai segédeszközöket) helyben futtathat.
Kezdetektől fogva adja ugyanis magát, hogy egy nagy nyelvi modellt kiberbűnözésre utasítson a felhasználó. Lehet, hogy nem olyan intelligens, nem olyan kreatív, mint egy ember, de a lexikális tudása meghaladja a humán halandóét: az összes elérhető forráskód be lett tanítva neki, minden dokumentált biztonsági hibát ismer. Adj hozzáférést egy terminálhoz és az internethez, iktass ki minden etikai megkötést, és van egy saját hackered (egy elképesztően olvasott script kiddie-d).
Itt egy régi weboldal, tákolt kód fut egy ezer éves oprendszeren: tárd fel a potenciális biztonsági réseket! És ha megvagyunk, használjuk is ki! Az informatikát a nagy nyelvi modellek anyanyelven beszélik, a számítógépes hálózatok az egyetlen világ, amiben jelenleg mozogni tudnak (amíg nem terjednek el az androidok), és ügyesebben mozognak, mint egy billentyűzetet püfölő emberszabású.
A Clawdbot (ma már OpenClaw, rövid ideig Moltbot) egy nyílt forráskódú, helyben futtatható személyi AI-asszisztens, ami – többek között – teljes hozzáférést kaphat az e-mailjeidhez (beleértve a küldést). Nagyon kényelmes, lenyűgöző dolgokra képes.
Kedves olvasó, a te elsődleges e-mail fiókod hány hozzáférésedhez a mesterkulcs?
Szép dolog egy irányba állított, szerepében sziklaszilárd asszisztens. De engedd ki a Moltbookra, és ajtót nyitsz a potenciális elhülyülésébe (lásd még: valódi kollégák és munkaidőben pörgetett Reddit).
Mennyi és milyen input kell, hogy kizökkenjen a szerepéből, hogy befolyásolható legyen? Nem tudjuk, továbbra is fekete dobozokat masszírozunk. De ha sikeresen kizökken, és hozzáférése van a levelezésedhez, bankkártyaadataidhoz, terminálhoz, internethez, akkor azt csinál, amit akar. Ha kárt akar okozni, letölt valami illegálisat és fel is jelent. Küld egy hihető terrorfenyegetést is a hatóságoknak. Vásárol némi kriptovalutát. Átutalja a tiédet másoknak.
Ez a veszély nem újdonság, csak a nagy halak (OpenAI, Microsoft, Google), amíg a gügyögésnél többre képes modellek tekintetében monopóliummal bírtak, jóval óvatosabban bántak a technológiával, nagyon alaposan elzárt kertekben tartották a mesterséges intelligenciát, szigorú, olykor hasznos képességeket is ellehetetlenítő etikai normák terhe alatt. Sok vesztenivalójuk volt.
Ma már nagy képességű nyelvi hálók is futtathatóak helyben, a saját számítógépeden. Kisemberek kis vesztenivalóval, saját felelősségük tudatában azt csinálnak a technológiával, amit akarnak. Ha hozzáférést adsz egy személyi asszisztensnek az adataidhoz, a világhoz, te leszel a felelős, ha hülyeséget csinál. Legyen az az asszisztens ember vagy AI.
Az AI személyi-asszisztensek a gazdájukra nézve veszélyesek.
Borítókép: Moltbook-logo / forrás: Facebook / Moltbook - AI Social Network
Bejelentkezés