Më shumë se 100 studiues bëjnë thirrje për masa mbrojtëse mbi grupet e të dhënave biologjike me rrezik të lartë për të parandaluar keqpërdorimin e AI, i cili mund të krijojë patogjenë vdekjeprurës.
Modelet e inteligjencës artificiale (AI) për biologjinë mbështeten shumë në vëllime të mëdha të të dhënave biologjike, përfshirë sekuencat gjenetike dhe karakteristikat e patogjenëve. Por a duhet që ky informacion të jetë i aksesueshëm për të gjithë dhe si mund të sigurohet përdorimi i tij legjitim?
Më shumë se 100 studiues kanë paralajmëruar se qasja e pakufizuar në disa grupe të të dhënave biologjike mund t’u mundësojë sistemeve të AI të ndihmojnë në projektimin ose përmirësimin e viruseve të rrezikshme, duke kërkuar masa më të forta mbrojtëse për të parandaluar keqpërdorimin.
Në një letër të hapur, studiues nga institucione kryesore, përfshirë Universitetin Johns Hopkins, Universitetin e Oksfordit, Universitetin Fordham dhe Universitetin Stanford, argumentojnë se ndërsa të dhënat shkencore me qasje të hapur kanë përshpejtuar zbulimet, një pjesë e vogël e të dhënave të reja biologjike paraqet rreziqe për biosigurinë nëse keqpërdoret.
“Niveli i rrezikut në qeverisjen e të dhënave biologjike është i lartë, pasi modelet e AI mund të ndihmojnë në krijimin e kërcënimeve serioze biologjike,” shkruajnë autorët.
Modelet e AI të përdorura në biologji mund të parashikojnë mutacione, të identifikojnë modele dhe të gjenerojnë variante më të transmetueshme të patogjenëve pandemikë.
Autorët e përshkruajnë këtë si një “aftësi shqetësuese”, e cila mund të përshpejtojë dhe thjeshtojë krijimin e patogjenëve biologjikë të transmetueshëm që mund të çojnë në pandemi te njerëzit, ose ngjarje të ngjashme te kafshët, bimët apo mjedisi.
Studiuesit theksojnë se të dhënat biologjike në përgjithësi duhet të jenë të hapura, por “të dhënat shqetësuese të patogjenëve” kërkojnë kontrolle më të forta sigurie.
“Fokusi ynë është të përcaktojmë dhe të qeverisim grupet më shqetësuese të të dhënave përpara se ato të bëhen gjerësisht të disponueshme për zhvilluesit e AI,” shkruajnë ata në studim, duke propozuar një kuadër të ri për rregullimin e qasjes.
“Në një kohë të dominuar nga modele biologjike AI me peshë të hapur të zhvilluara në mbarë botën, kufizimi i qasjes në të dhëna të ndjeshme të patogjenëve vetëm për studiuesit legjitimë mund të jetë një nga rrugët më premtuese për uljen e rrezikut,” tha Moritz Hanke, bashkautor i letrës nga Universiteti Johns Hopkins.
Çfarë po bëjnë zhvilluesit
Aktualisht, nuk ekziston një kuadër universal që rregullon këto të dhëna. Ndërsa disa zhvillues përjashtojnë vullnetarisht të dhënat me rrezik të lartë, studiuesit argumentojnë se duhet të zbatohen rregulla të qarta dhe të njëjta për të gjithë.
Zhvilluesit e modeleve kryesore biologjike të AI, Evo, krijuar nga studiues të Arc Institute, Stanford dhe TogetherAI, dhe ESM3 nga EvolutionaryScale, kanë përjashtuar disa sekuenca virale nga të dhënat e tyre të trajnimit.
Në shkurt 2025, ekipi i EVO 2 njoftoi se kishte përjashtuar patogjenët që infektojnë njerëzit dhe organizmat e tjerë kompleksë nga grupet e të dhënave për shkak të rreziqeve etike dhe të sigurisë, si dhe për të “parandaluar përdorimin e Evo për zhvillimin e armëve biologjike”.
EVO 2 është një model AI me kod të hapur për biologjinë që mund të parashikojë efektet e mutacioneve të ADN-së, të projektojë genome të reja dhe të zbulojë modele në kodin gjenetik.
“Për momentin, nuk ka udhëzime të mbështetura nga ekspertët për të përcaktuar se cilat të dhëna paraqesin rreziqe reale, duke lënë disa zhvillues të avancuar të marrin vendime sipas vlerësimit të tyre dhe të përjashtojnë vullnetarisht të dhënat virale nga trajnimi,” shkroi autori i studimit Jassi Panu në LinkedIn.
Lloje të ndryshme të të dhënave me rrezik
Autorët theksojnë se kuadri i propozuar zbatohet vetëm për një pjesë të vogël të të dhënave biologjike.
Ai prezanton një sistem me pesë nivele Biosecurity Data Level (BDL) për të kategorizuar të dhënat e patogjenëve sipas nivelit të rrezikut:
BDL-0: Të dhëna të zakonshme biologjike. Nuk duhet të kenë kufizime dhe mund të ndahen lirshëm.
BDL-1: Elementë bazë viralë, si sekuencat gjenetike. Nuk kërkojnë kontrolle të forta sigurie, por qasja duhet të monitorohet.
BDL-2: Të dhëna mbi karakteristikat e viruseve të kafshëve, si kalimi nga një specie në tjetrën ose mbijetesa jashtë organizmit pritës.
BDL-3: Të dhëna mbi karakteristikat e viruseve te njerëzit, si transmetueshmëria, simptomat dhe rezistenca ndaj vaksinave.
BDL-4: Viruse njerëzore të modifikuara, si mutacionet e COVID-19 që e bëjnë më ngjitës. Kjo kategori do të përballej me kufizimet më të rrepta.
Sigurimi i qasjes së sigurt
Për të garantuar qasje të sigurt, letra bën thirrje për mjete teknike specifike që do t’u mundësojnë ofruesve të të dhënave të verifikojnë përdoruesit legjitimë dhe të gjurmojnë keqpërdorimet.
Mjetet e propozuara përfshijnë:
Watermarking (shenjim digjital): vendosja e identifikuesve të fshehur në të dhëna për të gjurmuar rrjedhjet.
Origjina e të dhënave (data provenance): gjurmimi i burimit dhe historikut të tyre.
Audit logs: regjistrime të aksesit dhe ndryshimeve me nënshkrime të sigurta kundër manipulimit.
Biometria e sjelljes: gjurmimi i modeleve unike të ndërveprimit të përdoruesve.
Studiuesit argumentojnë se gjetja e balancës së duhur midis hapjes dhe kufizimeve të nevojshme të sigurisë për të dhënat me rrezik të lartë do të jetë thelbësore ndërsa sistemet AI bëhen më të fuqishme dhe më të përhapura./Përshtati nga Euronews, ekofin.al
