Debati për rreziqet e inteligjencës artificiale po bëhet gjithnjë e më serioz, teksa ekspertë dhe politikanë paralajmërojnë se zhvillimi i superinteligjencës artificiale mund të sjellë pasoja të pakthyeshme për njerëzimin. Në Britani, disa prej figurave të njohura e kanë krahasuar potencialin e saj shkatërrues me atë të armëve bërthamore.

Ish-ministri britanik i Mbrojtjes, Des Browne, tha se një AI superinteligjente mund të përbëjë një kërcënim në të njëjtin nivel, ose edhe më të madh, se lufta bërthamore. Ndërkohë, profesori i Berkeley-t, Stuart Russell, paralajmëroi për mundësinë e një katastrofe në përmasat e Çernobilit, apo edhe më të madhe, nëse njerëzimi humbet kontrollin mbi këto sisteme.

Shqetësime edhe më ekstreme u ngritën nga Evan Hubinger, drejtues i kërkimeve për “rregullimin” në Anthropic. Ai deklaroi se beson se ekziston një mundësi mbi 10% që AI të “shkatërrojë njerëzimin” gjatë dekadës së ardhshme. Paralajmërimi erdhi pas dorëheqjes së studiuesit Jacob Coxon, i cili akuzoi Anthropic dhe OpenAI se po garojnë për të zhvilluar teknologji gjithnjë e më të fuqishme pa masa të mjaftueshme sigurie.

Në Westminster, organizata Control AI po kërkon rregullim ndërkombëtar dhe ka mbështetur një projektligj që synon ndalimin e krijimit të ASI. Ndërkohë, politikanë britanikë kanë bërë thirrje për një traktat shumëkombësh që të garantojë zhvillim të kontrolluar dhe të sigurt.

Megjithatë, jo të gjithë ekspertët besojnë në skenarët apokaliptikë. Disa argumentojnë se AI aktuale është ende shumë larg aftësive njerëzore, ndërsa kërcënimet më konkrete janë dezinformimi, humbja e vendeve të punës, ndikimi mjedisor dhe dobësitë e sigurisë.