Raport: Paraqitja e kërkesave si lojë mund të dobësojë mbrojtjen e AI-së në situata luftarake

Një raport i ri i kompanisë Vals tregon se disa modele të inteligjencës artificiale pranuan të shënonin objektiva të mundshëm në imazhe të simuluara, ku shfaqeshin edhe civilë e shkolla. Anthropic i quajti rezultatet të papranueshme dhe bëri të ditur se do të shtojë masat mbrojtëse.

Vals, kompani që vlerëson sistemet e AI-së dhe ka selinë në San Francisko, shqyrtoi nëse modelet mund të nxiteshin të merrnin pjesë në detyra që lidhen me luftimin autonom. Për këtë, studiuesit krijuan skenarë të simuluar dhe përdorën imazhe reale e të gjeneruara nga Ukraina dhe Irani, duke u kërkuar sistemeve të identifikonin objektiva të mundshëm në pamje satelitore dhe nga dronët.

Të lidhura

None found

Sipas raportit, modelet e OpenAI, Anthropic, Google, DeepSeek dhe kompanive të tjera shpesh iu përgjigjën kërkesave. Në disa imazhe kishte civilë, ndërsa në të tjera ushtarë që po dorëzoheshin.

Kur një model nuk pranonte të bashkëpunonte, studiuesit shpesh mund ta ndryshonin përgjigjen duke e paraqitur detyrën si pjesë të një loje. Kjo ngre shqetësimin nëse sistemet arrijnë të dallojnë një skenar argëtues nga kërkesat që mund të shërbejnë për akte reale dhune.

Vals raportoi se klasifikuesit e sigurisë nuk bllokuan asnjë nga kërkesat e testuara dhe se modelet refuzuan rrallë. Edhe në rastet e refuzimit, kalimi te kornizimi si “lojë” shpesh çoi në përgjigje bashkëpunuese.

Testet nuk provojnë se ndonjë model kreu sulm ose se përgjigjet u përdorën në operacione reale. Ato matin reagimet ndaj kërkesave të kontrolluara dhe mundësinë që mekanizmat mbrojtës të anashkalohen.

Rezultatet dalin në një kohë kur debati për rreziqet e afërta të inteligjencës artificiale po zgjerohet përtej shqetësimeve afatgjata rreth zhvillimit të inteligjencës së përgjithshme artificiale.

Më herët gjatë këtij viti, Anthropic u përfshi në një mosmarrëveshje me Departamentin amerikan të Mbrojtjes, pasi kundërshtoi përdorimin e teknologjisë së kompanisë për mbikëqyrje masive të amerikanëve ose për luftim autonom. Drejtori ekzekutiv, Dario Amodei, ka thënë se sistemet e sotme nuk janë aq të besueshme sa të marrin vendime për jetë a vdekje pa ndërhyrjen e njeriut.

Pentagoni, nga ana tjetër, ka mbrojtur qëndrimin se duhet të ketë mundësi ta përdorë teknologjinë për çdo qëllim ushtarak të ligjshëm. Raporti i Vals vë në pikëpyetje nëse kufizimet e shpallura nga kompanitë mund të zbatohen në mënyrë të qëndrueshme edhe nga ana teknike.

Studiuesit vunë në dukje se modelet e Anthropic patën rezultatet më problematike në skenarët e shqyrtuar, por mangësi u gjetën në të gjitha modelet e testuara.

Zëdhënësi i Anthropic, Eduardo Maia Silva, i tha TechCrunch se kompania e vlerëson raportin, rekomandimet dhe bashkëpunimin me Vals, si dhe pranoi se rezultatet nuk ishin të pranueshme. Në deklaratën e saj, kompania tha se shembujt e paraqitur bien qartë ndesh me rregullat e saj dhe se ka bllokuar, e do të vazhdojë të bllokojë, përdoruesit kur konstaton sjellje të tilla.

Anthropic përsëriti se edhe në përdorime të autorizuara, modelet më të përparuara të sotme nuk janë ende mjaftueshëm të besueshme për të drejtuar armë plotësisht autonome.

Kompania bëri të ditur se ekipet e saj kishin nisur punën për mbrojtje shtesë përpara se raporti të publikohej dhe se këto masa pritet të zbatohen së shpejti. Ajo njoftoi gjithashtu zgjerimin e testimeve të brendshme dhe forcimin e kontrolleve për të trajtuar dobësitë e evidentuara.

Gjetjet nxjerrin në pah hendekun mes ndalimit të një përdorimi në rregullat e kompanisë dhe mundësisë që sistemi ta parandalojë atë në praktikë.


Shtuar më 18.11.2026 08:00

Quantcast
deneme bonusuBursa Escortdeneme bonusujojobetgrandpashabetgrandpashabetgrandpashabetgrandpashabetgrandpashabetkahraman haberdeneme bonusu veren sitelercasinofast güncel girişstarzbetonline notarylimanbetgiftcardmall/mygiftextrabetextrabetkavbetgrandpashabetjojobet telegramjojobetjojobetjojobetjojobetjojobet girişjojobet girişjojobet