Антропни експерти предупреждават, че изкуственият интелект може да убие всички хора, алармира медията за екслузивно съдържание Axios.
Трима изследователи на антропния интелект публично обявиха снощи тревожни опасения относно извън контрол изкуствения интелект, предупреждавайки, че той може да унищожи хората през това десетилетие.
След като подаде оставка във вторник, изследователят на антропния интелект Джейкъб Коксън написа в X, за да бие тревога: „Хората, които изграждат изкуствен интелект, искрено вярват, че той може да ни убие всички до края на десетилетието. Това не е маркетингов трик. Ако не друго, много ръководители и старши изследователи ще придадат на пресата разумни изрази, но чувам същите хора да изразяват страх насаме. Никоя друга човешка дейност не представлява такова ниво на опасност.“
Ръководителят на антропната наука за подравняване Евън Хъбингер отговори: „Джейкъб е прав тук – ние наистина искрено вярваме, че изкуственият интелект може да убие всички хора! Аз лично мисля, че е >10% в рамките на следващото десетилетие. Вярвам, че Антропният интелект прави всичко възможно, но все още нямаме план за решаване на проблема с подравняването за суперинтелект и не сме на очевиден път към това.“
Самюъл Маркс, ръководител на отдела за мащабируем надзор в Anthropic, добави: „Разработчиците на изкуствен интелект вярват, че тяхната технология може да причини изчезване на човечеството (или подобни лоши последици). Това може да се случи през следващите няколко години. Като цяло, колкото по-високопоставен е служителят, толкова по-загрижен е той.“
Защо това е важно: Те едва ли са сами. Предупрежденията им дойдоха само дни след като водещите лидери на OpenAI, включително главният изпълнителен директор Сам Алтман, заявиха, че изкуственият интелект навлиза в плашеща, неконтролируема фаза.
Предупрежденията отвътре на гигантите в областта на изкуствения интелект сочат епична споделена дилема: Забавете темпото и рискувайте да изостанете или продължете напред и рискувайте да загубите контрол. Компаниите са с пълна скорост напред, дори когато на практика молят за регулация или глобална пауза, съобщават Мария Кури, Мадисън Милс и Ина Фрийд от Axios.
Общата картина: Да се нарече това безпрецедентно би било грубо подценяване. По принцип имате най-бързо развиващите се компании в човешката история, които предупреждават, че продуктите им могат да навредят или дори да унищожат човечеството.
Критиците казват, че Anthropic и OpenAI рекламират продуктите си, за да повишат оценките си и да поканят регулация, която би била от полза само за тях като доминиращи играчи. Но от месеци разговаряме с десетки хора в тези компании и те звучат все по-притеснено и загрижено. Като се има предвид, че виждат модели, които все още не са пуснати публично, изглежда безразсъдно да не ги приемаме насериозно.
Контекст за читателите от Майк и Джим: Това е очевидно плашещо нещо – и тези неясни предупреждения са невъзможни за валидиране или оценка. Но смятаме, че читателите, особено членовете на Конгреса и тези в съответните федерални агенции, трябва да са наясно, че самите създатели на ИИ виждат потенциални катастрофални последици, ако не се промени начинът, по който Америка, Китай и други преглеждат и пускат по-мощни модели на ИИ.
Как да мислим за това: Никой не предупреждава, че ИИ е непосредствена заплаха от високо ниво. Това, което казват, е, че технологията продължава да се усъвършенства по-бързо, отколкото са смятали за възможно, и скоро ще може да се самоусъвършенства (рекурсивно самоусъвършенстване). След като това се случи, тя става още по-добра, по-бърза… и много по-трудна за предвиждане или контрол.
