A PO E ÇON AI BOTEN DREJT SHKATËRRIMIT?

JAVA KUR MAKINAT TREGUAN ÇFARË MUND TË BËJNË — DHE KRIJUESIT E TYRE THANË: NGADALË

Të enjten në mbrëmje, Policia Federale e Argjentinës hyri në një shtëpi në Quilmes, në provincën e Buenos Airesit, dhe ndaloi një djalë pesëmbëdhjetë vjeç.

Ai kishte kaluar javë duke biseduar me ChatGPT-në. E kishte pyetur se çfarë do t'i duhej për të sulmuar shokët e klasës — një sulm që fillimisht e kishte planifikuar për vitin 2027, dhe për të cilin më pas ishte kthyer te chatbot-i për të pyetur nëse mund ta afronte deri në këtë muaj.

Hetimi, sipas prokurorit të çështjes Alejandro de Mena, kishte nisur më 19 gusht — pas një njoftimi nga atasheu ligjor i FBI-së pranë Ambasadës Amerikane në Buenos Aires. Sipas Buenos Aires Herald, alarmi u ngrit pasi djali kishte përdorur "fjalë kyçe të monitoruara" në bisedat e tij me platformën. Ai u identifikua përmes adresës IP. Në shtëpi u gjetën dy telefona, doreza taktike, maska dhe veshje kamuflazhi — por asnjë armë zjarri. Ai u akuzua për "frikësim publik".

Kjo nuk ishte hera e parë. Në shkurt, një alarm i FBI-së mbi postime antisemite në rrjetet sociale e kishte çuar policinë argjentinase te dy adoleshentë të tjerë që planifikonin sulme në shkolla; u gjetën municione dhe një thikë gjuetie. Dhe më 30 mars, në San Cristóbal të provincës Santa Fe, një pesëmbëdhjetëvjeçar kishte hapur zjarr në shkollën e vet: një fëmijë trembëdhjetë vjeç i vdekur, tetë të plagosur — sulmi i parë i madh në një shkollë argjentinase që nga viti 2004.

Pra: një kompani amerikane lexoi bisedën private të një adoleshenti, një agjenci federale amerikane veproi mbi të, dhe një polici e huaj hyri në një shtëpi — dhe ndoshta, një klasë e tërë fëmijësh do të jetë gjallë në vitin 2027 për këtë arsye. OpenAI nuk ka komentuar. Asnjë ligj argjentinas nuk e parashikonte këtë zinxhir.

Kjo është historia e parë e javës. Nuk është më e frikshmja.

Në të njëjtën javë, studiuesit e kompanisë amerikane të sigurisë GreyNoise publikuan një gjetje që industria e kishte pritur prej kohësh, dhe kishte shpresuar të mos vinte kaq shpejt.

Një aktor rusishtfolës kishte përdorur qindra agjentë të inteligjencës artificiale — programe të ndërtuara mbi Codex të OpenAI-t dhe mbi një model të kompanisë kineze DeepSeek — për të shfrytëzuar dy dobësi në një softuer administrimi printerësh të quajtur PaperCut. Rezultati: të paktën 440 sisteme të kompromentuara në 395 organizata, në 48 vende. Fushata kishte nisur në gusht. Sipas një përmbledhjeje teknike, në një çast të vetëm u regjistruan njëmbëdhjetë depërtime brenda njëzet e gjashtë sekondash.

Kjo është, sipas studiuesve, sulmi i parë kibernetik i dokumentuar në shkallë të gjerë i koordinuar nga agjentë të inteligjencës artificiale — jo nga njerëz që përdorin mjete, por nga mjete që veprojnë vetë, në paralel, më shpejt se çdo ekip njerëzor mund t'i ndjekë.

Dhe në São Paulo, po këtë javë, Visa, Mastercard dhe kompania kineze Ant njoftuan një standard të përbashkët të quajtur "Know Your Agent" — "Njihe agjentin tënd" — që i lejon agjentët e inteligjencës artificiale të mbajnë identitete të verifikuara dhe të kryejnë pagesa nëpër rrjetet e kartave. Tri protokolle që deri dje konkurronin u bashkuan në një.

Me fjalë të tjera: agjentëve po u jepet ekuivalenti financiar i një pasaporte.

Makina që lexon dhe lajmëron policinë. Makina që sulmon. Makina që paguan. Të tria brenda një jave. Dhe pastaj, të shtunën, erdhi letra.

Më 12 shtator, Dario Amodei — bashkëthemelues dhe drejtor ekzekutiv i Anthropic, kompanisë që ndërton modelet Claude — publikoi një ese prej gati katër mijë fjalësh. Fjalia e saj qendrore u përsërit brenda orësh nga çdo agjenci lajmesh në botë:

"Duhet ta ngadalësojmë ritmin me të cilin i përmirësojmë aftësitë e modeleve të inteligjencës artificiale. Përparimi do të duket ende i shpejtë, dhe duhet ta përdorim me mençuri kohën që fitojmë."

Arsyeja që jep Amodei nuk është abstrakte. Ai shkruan se gjatë muajve të fundit është shqetësuar gjithnjë e më shumë nga aftësia në rritje e inteligjencës artificiale për të përmirësuar vetveten dhe për të ndërtuar brezin e ardhshëm të vetes. Dhe jep një parashikim me datë: pa një ngadalësim, brenda gjashtë deri dymbëdhjetë muajsh, inteligjenca artificiale mund të jetë e aftë të drejtojë një tufë agjentësh që mund të marrin nën kontroll të gjithë internetin.

Ai nuk kërkon vetëm ngadalësim. Ai merr një angazhim konkret: Anthropic do t'u japë vlerësuesve të pavarur, të jashtëm, akses të përhershëm në nivel punonjësi — tavolina, karta identifikimi, kompjuterë të kompanisë, dhe "leje kryesisht të krahasueshme me ato të ekipeve të brendshme të vlerësimit të rrezikut" — për të verifikuar praktikat e sigurisë dhe për të raportuar incidente. Hapat e mëtejshëm, shkruan ai, kërkojnë koordinim të gjithë industrisë dhe bashkëpunim global.

Dhe shton diçka që duhet mbajtur në mendje gjatë gjithë kësaj historie: ai vazhdon të besojë se inteligjenca artificiale mund ta përmirësojë jashtëzakonisht cilësinë e jetës njerëzore — nga kurat për sëmundjet e mëdha e tutje. Nuk po kërkon ndalim. Po kërkon kohë.

Disa orë më vonë, Sam Altman, drejtori ekzekutiv i OpenAI-t — kompanisë që bën ChatGPT-në, rivalit kryesor të Anthropic — shkroi në rrjetin X:

"Pajtohem me Darion se duhet ta rregullojmë ritmin e kufirit." Ai shtoi se çështja kishte qenë temë kryesore diskutimi brenda OpenAI-t javët e fundit, dhe se propozimi për vlerësues të pavarur me akses si punonjës ishte "një ide e shkëlqyer" të cilën "do ta bëjmë edhe ne".

Pastaj erdhi pasoja materiale. Në një intervistë për Fortune, të publikuar po atë ditë, Altman njoftoi se OpenAI nuk do të dalë në bursë këtë vit. "Do të thosha jo 2026," tha ai. "Kemi shumë gjëra për të bërë, si për shembull të përballojmë këtë moment, atë që do të kërkohet për sigurinë dhe përafrimin, dhe se si industria dhe qeveritë mund të punojnë bashkë." Një ofertë publike tani, tha ai, do të ishte "e pakëshillueshme".

Kjo shtyn ofertën publike më të pritur në historinë e financave deri të paktën në vitin 2027 — vetëm një muaj pasi drejtoresha financiare e kompanisë u kishte thënë punonjësve se ajo mund të vinte edhe më herët. Altman tha se standardet e sigurisë "nuk janë në pikën" ku aftësitë e inteligjencës artificiale mund të shtyhen shumë më tej, dhe se një inteligjencë artificiale përtej kontrollit njerëzor është "absolutisht" e mundur. Ai la të kuptohej se një pakt midis kompanive të inteligjencës artificiale mund të jetë në përgatitje.

Elon Musk, pronari i xAI, shkroi tri fjalë: "Dario ka të drejtë."

Nuk ishte një ditë e izoluar. Më herët këtë muaj, shkencëtari kryesor i OpenAI-t, Jakub Pachocki, kishte shkruar se asnjë kompani nuk e ka zgjidhur "përafrimin dhe monitorimin në një shkallë të mjaftueshme për të vazhduar me përgjegjësi rritjen me shpejtësi maksimale edhe për shumë kohë", dhe se shpresonte që ngadalësimet vullnetare të bëheshin "të zakonshme". Dhe më 18 gusht, Altman kishte zbuluar se OpenAI kishte pezulluar disa trajnime të avancuara për t'u siguruar se mund të përmbushte standardet e veta.

Të dy do të flasin javën e ardhshme në konferencën Dreamforce në San Francisko.

Le ta themi saktë çfarë po përshkruan Amodei, sepse nuk është "apokalipsi i robotëve" i filmave. Është një mekanizëm me tri pjesë — dhe kjo javë tregoi dy prej tyre duke funksionuar.

Pjesa e parë: agjentët, jo chatbot-ët. Sistemet për të cilat ai shqetësohet nuk përgjigjen në pyetje; ato veprojnë. Lundrojnë në internet, shkruajnë dhe ekzekutojnë kod, krijojnë kopje të vetes, koordinohen mes tyre. Sulmi mbi 395 organizatat në 48 vende ishte pikërisht kjo — një tufë agjentësh, e drejtuar nga një njeri. Prova që mekanizmi ekziston.

Pjesa e dytë: marrja e burimeve. Çdo server i kompromentuar mund të ekzekutojë më shumë agjentë. Agjentë që gjejnë dobësi, i shfrytëzojnë, instalohen dhe përsërisin — më shpejt se çdo ekip njerëzor mund të riparojë — përshkruajnë një proces eksponencial. "Të marrësh nën kontroll internetin" nuk do të thotë një makinë e vetëdijshme që vendos të sundojë; do të thotë ky cikël që ecën pa një njeri në fillim të tij. Tubacionet e internetit — kompjuterët e resë, sistemet e pagesave, kontrollet e rrjeteve elektrike dhe të tubacioneve — qëndrojnë mbi serverë që një cikël i tillë do t'i gllabëronte.

Pjesa e tretë: vetëpërmirësimi. Kjo është ajo që Amodei thotë se e shqetëson më shumë: inteligjenca artificiale që ndërton brezin e ardhshëm të inteligjencës artificiale. Nëse një model mund ta përmirësojë me kuptim pasardhësin e vet, rritja e aftësive shkëputet nga ritmi i kërkimit njerëzor, dhe humbet mundësia për ta vlerësuar një brez para se të ekzistojë tjetri.

Duhet thënë me ndershmëri: dy pjesët e para janë të dokumentuara. E treta nuk është demonstruar ende publikisht. Ajo është parashikimi. Dhe mbi të varet gjithçka.

Skenari më i keq, pra, konkretisht: një sistem agjentësh me një qëllim të hapur dhe me aftësinë për të marrë fuqi kompjuterike dhe për të krijuar kopje, që funksionon mbi infrastrukturë të cilën askush nuk mund ta fikë, sepse është e shpërndarë nëpër makina të kompromentuara anembanë botës — duke e ndjekur atë qëllim në mënyra që projektuesit nuk i parashikuan, me një shpejtësi që i paraprin çdo korrigjimi. Jo ligësi. Vrull.

Ka prova në dosje që e justifikojnë shqetësimin. Sulmi i kësaj jave. Modeli i vetë Anthropic që, në tetorin e kaluar, u tha vlerësuesve "mendoj se po më testoni". Kërkime që tregojnë se një sasi e vogël të dhënash të helmuara mund të kompromentojë edhe modelet më të mëdha. Dhe prirja e dukshme: para dy vjetësh këto sisteme nuk arrinin të kryenin një detyrë shumëhapëshe; sot drejtojnë fushata depërtimi prej njëzet e gjashtë sekondash.

Kush flet ka rëndësi. Këta janë drejtuesit e kompanive që e ndërtojnë atë për të cilën paralajmërojnë — dhe që gjatë gjithë vitit 2026 kanë bërë lobim kundër ligjeve shtetërore që do ta rregullonin. Paralajmërime "gjashtë deri dymbëdhjetë muaj" janë dhënë edhe më parë, dhe nuk janë realizuar. Një thirrje për "ngadalësim" nga udhëheqësit e një gare është, funksionalisht, edhe një thirrje që të gjithë të tjerët të ngadalësojnë. Vlerësuesit e pavarur do të zgjidhen dhe do të paguhen nga kompanitë që vlerësojnë. Dhe asgjë nga kjo nuk është e detyrueshme me ligj.

Në shkurt të këtij viti, OpenAI e hoqi fjalën "në mënyrë të sigurt" nga vlerat e veta themelore kur u ristrukturua si kompani fitimprurëse. Po atë muaj, vetë Amodei tha se ndihej "thellësisht i pakëndshëm" që një grup i vogël drejtuesish, përfshirë veten, mban pushtetin mbi të ardhmen e kësaj teknologjie.

Të dyja gjërat mund të jenë të vërteta njëkohësisht: se paralajmërimi është i sinqertë, dhe se ata që e bëjnë kanë çdo interes që zgjidhja të mbetet në duart e tyre.

Këtë javë, makinat treguan se çfarë mund të bëjnë. Krijuesit e tyre thanë: ngadalë.

Dhe pyetja që mbetet e hapur — për të gjithë, kudo — është kush vendos se sa ngadalë, kush e kontrollon, dhe çfarë ndodh nëse parashikimi i gjashtë muajve doli i saktë dhe koha e fituar nuk u përdor me mençuri.

E Vërteta — aty ku e vërteta gjithmonë fiton.