Bashkëthemeluesi i Anthropic, Jack Clark, tha se agjentët e inteligjencës artificiale mund të jenë së shpejti në gjendje të ndërtojnë dhe trajnojnë vetë modele dhe, nëse kjo ndodh, njerëzit mund të humbasin kontrollin mbi sistemet e AI-së.
Bashkëthemeluesi i Anthropic, Jack Clark, kërkon që industria e inteligjencës artificiale të “frenojë” përpara se teknologjia të nisë të zhvillojë më tej veten pa ndërhyrje njerëzore.
Duke folur për BBC, Clark tha se 80% e punës së kodimit në Anthropic po kryhet tashmë nga modeli i saj i AI-së, Claude, dhe se kjo shifër mund të arrijë në 100% brenda pak vitesh. Megjithatë, ai tha se “është një zgjedhje” nëse kompanitë e AI-së do ta lejojnë teknologjinë të shkojë deri aty pa e ndalur.
“Mendojmë se kjo është një temë për të cilën bota duhet të flasë më shumë”, tha Clark. “Industria e AI-së aktualisht ka një pedal gazi, por nuk ka një pedal frenimi në makinë, dhe ne duam të bëjmë një pjesë të punës për ta ndërtuar atë pedal.”
Ky proces quhet “vetëpërmirësim rekursiv”, ku një AI është në gjendje të përmirësojë veten pa ndërhyrje njerëzore, sipas Anthropic në një postim të lidhur në blog, të publikuar të enjten në mbrëmje.
Në një model rekursiv, agjentët e AI-së, pra punonjësit autonomë të ndërtuar nga një chatbot, mund “të bëhen mjaftueshëm të aftë për të ndërtuar dhe trajnuar vetë modele”, në mënyrë që Claude “të mund të përmirësohet vazhdimisht nga vetë Claude”, tha Anthropic.
Ndërsa AI rekursive mund të sjellë përfitime në fusha si shkenca dhe shëndetësia, Anthropic paralajmëron se ajo mund të nënkuptojë edhe rritje të “rreziqeve që njerëzit të humbasin kontrollin mbi sistemet e AI-së”.
“Nëse sistemet janë të afta të ndërtojnë plotësisht pasardhësit e tyre, mënyrat se si i sigurojmë, i monitorojmë dhe formësojmë sjelljen e tyre bëhen shumë më të rëndësishme”, thuhet në postimin në blog.
Ka prova brenda vetë modelit të Anthropic që tregojnë se rekursioni mund të vijë më shpejt se sa më vonë. Kompania përmend faktin se normat e korrigjimit të kodit nga stafi i saj kanë rënë në mënyrë të qëndrueshme gjatë vitit të fundit, çka do të thotë se ka më pak gabime në atë që prodhon Claude.
Claude është gjithashtu në gjendje të kryejë vetë eksperimente kërkimore kur i jepet një pyetje e hapur, si për shembull: “A mund të mbikëqyrë një model më i dobët një model më të fortë?”, dhe të dalë me zgjidhje të veta pa ndërhyrje njerëzore.
“Provat sugjerojnë se roli i njeriut po ngushtohet në çdo hap të procesit të zhvillimit të AI-së”, thuhet në blog.
Anthropic tha se instituti i saj do të kryejë kërkime për të ndërtuar një sistem që kontrollon nëse zhvilluesit kanë ndalur apo ngadalësuar realisht lëvizjen drejt AI-së rekursive.
Megjithatë, një ngadalësim i vërtetë do të kërkonte që “disa laboratorë të mirëfinancuar, në kufi ose pranë kufirit më të avancuar të teknologjisë, në disa vende, të bien dakord të ndalojnë në të njëjtat kushte”./Përshtati nga Euronews, ekofin.al
