“Ngushtimi i rolit të njeriut”: Anthropic bën thirrje për ngadalësim global të IA-së pasi sistemet mund të shpëtojnë nga kontrolli
Zhvilluesi i chatbot-it Claude thotë se një pauzë në garën e IA-së “ka të ngjarë të jetë një gjë e mirë” dhe paralajmëron se modelet e përparuara po fillojnë të tregojnë shenja se ato mund të bëhen gjithnjë e më të vështira për t’u kontrolluar nga njerëzit.
Kompania e inteligjencës artificiale Anthropic sugjeroi të enjten një pauzë globale në ndërtimin e sistemeve më të fuqishme të IA-së, pasi modelet më të fundit po fillojnë të tregojnë shenja se ato mund t’i shpëtojnë kontrollit njerëzor.
Kompania me seli në San Francisko, e cila prodhon familjen Claude të modeleve të IA-së, tha në një raport se një ngadalësim në mbarë botën në zhvillimin e IA-së të përparuar “ka të ngjarë të jetë një gjë e mirë” – por paralajmëroi se nëse vetëm një kompani ndalet, rivalët thjesht do të nxitojnë përpara.
“Ne besojmë se do të ishte mirë që bota të kishte mundësinë të ngadalësonte ose të ndalonte përkohësisht zhvillimin e inteligjencës artificiale në nivel të lartë për të mundësuar që strukturat shoqërore dhe kërkimet e harmonizimit të ecin me përparimin e teknologjisë”, tha ajo.
Një pauzë e vërtetë në punë do të thoshte që shumë kompani të mëdha të inteligjencës artificiale në shumë vende – veçanërisht SHBA-të dhe Kina – të gjitha të bien dakord të ndalojnë në të njëjtën kohë, sipas rregullave që të gjithë mund t’i verifikojnë, tha Anthropic.
“Pa një mekanizëm koordinimi global, kompanitë dhe qeveritë do të duhet të marrin vendime të vështira në lidhje me sigurinë ndërsa janë nën presione konkurruese dhe gjeopolitike”, tha ajo.
Kompania është përballur me kundërshtime nga të tjerët në industri – dhe zyrtarë në Shtëpinë e Bardhë – të cilët thonë se fokusi i saj në skenarët më të këqij i ekzagjeron rreziqet dhe përbën një strategji për ngadalësimin e rivalëve nën mbulesën e shqetësimeve për sigurinë.
Megjithatë, Shtëpia e Bardhë ka pranuar fuqinë e modelit Mythos të kompanisë, i cili nuk është bërë i disponueshëm për publikun e gjerë për shkak të aftësive të tij të sigurisë kibernetike dhe aktualisht është i vendosur vetëm në një numër të vogël organizatash të verifikuara.
Propozimi do të përballet me një betejë të vështirë në Uashington dhe Silicon Valley, ku zyrtarët amerikanë dhe drejtuesit e teknologjisë kanë argumentuar vazhdimisht se çdo ngadalësim në zhvillimin e IA-së rrezikon t’i japë Kinës një avantazh strategjik vendimtar në atë që shumë e shohin si garën përcaktuese të teknologjisë së shekullit.
Megjithatë, Presidenti i SHBA-së Donald Trump tha se diskutoi mundësinë e bashkëpunimit me Kinën për çështjet e sigurisë së IA-së gjatë vizitës së tij të fundit në Pekin.
Trump gjithashtu nënshkroi një urdhër ekzekutiv këtë javë që i jep qeverisë 30 ditë për të kryer një shqyrtim paraprak të modeleve më të fuqishme të IA-së amerikane para publikimit të tyre.
Fraksion.com
