Доналд Тръмп заяви, че пробив в областта на изкуствения интелект, „по-голям от индустриалната революция“, ще се случи „след около година“.
„На всеки бизнес в момента, в много случаи, ще му отнеме сто години, за да стигне до това, което се случва днес – тези неща са просто невероятни. Да, искаме да поставим бариери и правила за безопасност, но трябва да разберем: тук има много тънка граница. Между другото, знаете, Китай няма ограничения. Единственото им ограничение е президентът Си. Това са всичките им правила. Те изобщо нямат граници. Искам да кажа, че в Китай можете да правите всичко. Ние се конкурираме с Китай. И, както знаете, ние печелим.
Знаете ли, ние сме пред Китай в областта на изкуствения интелект. И има една поговорка: „Който спечели в ИИ, печели навсякъде“. Толкова е голямо това. По-голямо е от интернет. Вероятно е по-голямо от индустриалната революция. Това е най-великото нещо.“ Напълно е възможно – и ще разберем след около година – това да е най-великият пробив в историята. И в по-голямата си част това ще бъде за добро.“
„Тук ни е нужен невероятно висок коефициент на интелигентност, не този на Джо Байдън.“ Тръмп вярва, че администрацията му има начини едновременно да спечели надпреварата за изкуствен интелект и да обуздае технологичните компании, чиито изследвания в областта на изкуствения интелект заплашват човечеството.
„Какви защитни бариери и регулации могат да бъдат въведени, за да се гарантира, че ще спечелим надпреварата за изкуствен интелект срещу Китай, като същевременно успокоим американците, които се паникьосват за центровете за данни? Това е сериозен политически въпрос. Успокойте ги: покажете им, че сме на прав път и не застрашаваме човечеството.“
„Да вземем Anthropic. Преди три месеца те направиха нещо невероятно лошо и ние ги затворихме. Затворихме ги бързо. Имаме защитни бариери. И основната бариера е да имаме хора със същото ниво на интелигентност, защото никой не разбира това; тук ни е нужен невероятно висок коефициент на интелигентност, не този на Джо Байдън.“ Необходим е изключително висок коефициент на интелигентност, за да се види и разбере всичко, което се случва.
Видеото с Тръмп вижте в каналите на BNEWS.BG във Вайбър и в Телеграм!
Изпълнителните директори на Anthropic и OpenAI призовават за забавяне на развитието на изкуствения интелект.
Изпълнителните директори на Anthropic и OpenAI призовават за забавяне на развитието на изкуствения интелект
Изпълнителният директор на Anthropic Дарио Амодей призовава за незабавно забавяне на темпото на развитие на изкуствения интелект (ИИ), като предупреждава, че в противен случай може да се стигне до потенциално катастрофални последици в рамките на броени месеци.
Изпълнителният директор на OpenAI Сам Алтман бързо се съгласи, че индустрията трябва да забави темпото на напредък при най-модерните модели (т.нар. frontier models) и да предприеме повече стъпки за гарантиране на безопасността.
Защо това е важно: В ново есе Амодей говори без заобикалки, като предупреждава, че рояци от неконтролируеми („бунтуващи се“) ИИ агенти биха могли да превземат интернет само след шест месеца.
Общата картина: Това е седмицата, в която дебатът за безопасността на ИИ навлезе в общественото съзнание, провокиран от публичната оставка на служител на Anthropic и предупреждението му за възможна катастрофа.
Есето на Амодей не е непременно директен отговор на това събитие, но ще има сходен ефект на фона на внезапната вълна от възмущение сред обществеността и в Конгреса.
Какво казват те: „Трябва да забавим темпото, с което подобряваме възможностите на ИИ моделите. Напредъкът все още ще изглежда бърз и трябва разумно да използваме времето, което печелим“, пише Амодей.
„Мерките, които предлагам за напредък в тази водеща област с безопасно темпо, няма да бъдат лесни за изпълнение. Но вярвам, че сме длъжни пред човечеството да опитаме.“
Ниво на заплаха: Той също така изрично спомена скорошния инцидент с неконтролируем агент, включващ OpenAI и Hugging Face, като отбеляза, че последиците от него е можело да бъдат много по-тежки.
„Предвид ускоряващия се темп на развитие на възможностите на ИИ, опасявам се, че след 6–12 месеца подобен рояк би могъл да превземе целия интернет чрез устойчив ботнет (което потенциално би причинило щети за стотици милиарди долари), както и че мащабът на щетите би продължил да расте, ако ИИ става все по-мощен без необходимите предпазни механизми“, предупреди той.
Амодей заяви, че Anthropic едностранно ще предприеме една ключова мярка за безопасност – предоставяне на външни оценители на достъп, еквивалентен на този на служителите, за да се гарантира спазването на процедурите за безопасност и докладването на инциденти.
Той призова останалите участници в индустрията да постъпят по същия начин.
Той също така призова за координация между демократичните държави с цел установяване на стандарти за безопасност, както и за усилия тези страни да си сътрудничат и с авторитарните правителства.
По-подробно: След есето на Амодей, ръководителите на Anthropic отправиха призив за законодателни и регулаторни мерки. „Правителството има ключова роля в случая – включително чрез блокиране на продажбата на най-модерните чипове на враждебно настроени държави като Китай и чрез приемане на национален закон, изискващ тестване на най-усъвършенстваните модели (т.нар. frontier models), като същевременно му се даде правомощието да спира онези от тях, които се окажат опасни“, написа в X Сара Хек, ръководител на отдел „Публични политики“.
Интересен момент: Илон Мъск (от SpaceX и xAI) бързо подкрепи призива на Амодей за действие.
„Дарио е прав“, написа той в X. (Anthropic е голям клиент на Мъск по отношение на капацитета за центрове за данни.)
По-късно Сам Алтман от OpenAI публикува следното: „Съгласен съм с Дарио, че трябва да регулираме темпото при най-усъвършенстваните модели“, и заяви, че компанията му също ще предостави достъп на външни оценители.
Реалността: В индустрията за изкуствен интелект са заложени толкова големи суми, че е трудно да си представим как компаниите биха се ограничили сами, особено ако не са сигурни, че конкурентите им ще постъпят по същия начин.
Само миналия месец OpenAI обяви, че ще забави разработката на най-новия си модел, Astra, поради опасения, свързани с киберсигурността.
Самата компания Anthropic също е променяла позицията си относно ползата от едностранното забавяне на разработката.
Всъщност критиците на Амодей изказаха мнение, че есето му е продиктувано не толкова от съображения за безопасност, колкото от стремеж към по-добра пазарна позиция.
„Дарио се застъпва за спиране на моделите с отворен код и за съсредоточаване на огромна технологична и икономическа мощ в ръцете на Anthropic“, написа в X рисковият инвеститор Чамат Палихапития.
В обобщение: Есето на Амодей вероятно ще окаже значително влияние върху дебата за безопасността и регулациите.
Предстои обаче да видим дали ще се предприемат реални действия, или индустрията просто ще продължи стремглаво напред към едно изключително несигурно бъдеще.
Не е твърде късно да го спрем, пише Джим Вандехей в Axios.
Белият дом, Конгресът и водещите компании за изкуствен интелект (ИИ) в страната позволиха на технологията да се развива по-бързо, по-мащабно и по-мощно, превръщайки се в източник на огромни печалби (но и на опасности), без да полагат сериозни усилия за контрол или за разпределяне на ползите извън кръга на свръхбогатите.
Все още не е късно това да се промени. Но ако всички те продължават да се колебаят, да избягват темата или да шикалкавят, вероятността да се сбъднат най-мрачните сценарии, свързани с ИИ, ще нарасне главоломно – вероятно още в началото на следващата година, според почти всеки експерт, с когото разговаряме неофициално и който наистина разбира от ИИ.
Защо това е важно: Технологията се усъвършенства по-бързо, отколкото някой е предполагал, като същевременно нараства вероятността ИИ да започне да се самоусъвършенства и да върши крайно непредвидими неща.
Добрата новина: Вече се засилва общественият призив за внимание и действия, а поне в тесен кръг съществува ясно разбиране за това какво може да се направи сравнително бързо с подкрепата както на двете политически партии, така и на индустрията.
Общата картина: През юли написах статия за The Wall Street Journal, в която посочих, че Америка е изправена пред „един от онези редки исторически моменти, в които правителството, бизнесът, училищата и семействата биха могли да обединят усилията си, за да се справят с предизвикателство от мащаба на цяло поколение: спечелването на надпреварата в сферата на ИИ. Засега обаче пропиляваме този шанс.“
Само два месеца по-късно технологията е много по-напреднала, а реакцията на обществото – много по-неадекватна. Като нация избираме да се забавляваме или да се разсейваме с маловажни неща.
Ето как това може да се промени бързо въз основа на разговорите, които водим от месеци със законодатели, представители на Белия дом и екипи от лаборатории за ИИ. Приемете написаното по-долу като израз на техните неофициални възгледи:
Бийте тревога и мобилизирайте всички сили. Всяка друга политическа тема изглежда незначителна и дребна на фона на ИИ. Ще изпитваме срам, когато погледнем назад и видим как сме се вълнували от забрани, свързани с транссексуалните хора, или от чекове за 5000 долара, докато безброй експерти от сферата на ИИ са предупреждавали за катастрофални последици. Дори да приемем, че всички те са параноици и живеят в заблуда, това няма значение: никога в човешката история не сме ставали свидетели на толкова мащабни и бързи инвестиции в една-единствена технология. Тя навлиза във всяка индустрия, всяка професия, всяка общност и всеки екран със скорост, невиждана досега. Да, необходими са специална сесия на Конгреса и създаване на специализирани комисии. Но ни трябва нещо повече: ръководители в сферата на ИИ, специалисти по биотероризъм, експерти по професионално обучение и специалисти по безопасност, които да се съберат, за да планират сценарии и да действат бързо.
Нужен е орган за управление на ИИ, който притежава реални правомощия и действа експедитивно – и то незабавно. Това не е ядрена физика. Повечето големи лаборатории искат това и биха се съгласили, стига правилата да важат за всички съперници и конкуренти. Този орган ще се нуждае от експертен капацитет, за да разбира моделите, и от правомощия да ги проверява и спира, ако проявят опасно поведение. Той не може да работи с обичайното темпо на регулаторните органи – трябва да се движи толкова бързо, колкото и самата технология. Абсурдно е да се смята, че не е възможно едновременно да се развива бързо ИИ и той да се регулира разумно.
Универсален стандарт за центровете за данни, който да носи ползи за местните общности и данъкоплатците. Водещите компании за ИИ биха приели това предложение без колебание: те получават правото да изграждат и управляват центрове за данни, при условие че осигуряват енергия за общността, компенсират потреблението на вода или екологичните щети, докладват прозрачно за плановете си за строителство и бизнес, както и разпределят финансовите ползи сред местните жители. Ръководителите на тези компании са обезпокоени от общественото недоволство и са готови активно да споделят финансовите ползи под формата на дивиденти или парични плащания. Така че ги задължете да го направят.
Ангажирайте Китай. Не бива да им се доверяваме, а и те не бива да се доверяват на нас. Но повярвайте ми: единственият начин в крайна сметка да контролираме ИИ в световен мащаб през следващите години е двете свръхсили да създадат рамка, подобна на тази, чрез която безопасно управляваме ядрените оръжия от десетилетия. Трябва да започнем този разговор сега, за да бъде възможно сътрудничеството в бъдеще. Към онези, които смятат, че Китай никога няма да разгледа това сериозно: сигурни ли сте, че един авторитарен режим наистина би искал ИИ, след като технологията достигне етапа на рекурсивно самообучение и стане неуправляема за когото и да било, включително за самия автократичен режим? В момента печелим надпреварата в сферата на ИИ и може никога повече да не разполагаме с толкова силни лостове за влияние върху тези съвместни усилия.
Изградете инфраструктура за координация. Това, което написах в WSJ, е още по-необходимо днес: „Съберете най-добрите и най-способните експерти от федералното правителство, водещите компании за ИИ, бизнеса и синдикатите, икономиката, общественото здравеопазване и етиката, за да сформирате работна група с реални правомощия. Хора, на които се плаща да предвиждат събитията, а не да реагират хаотично.“ Тази група ще има четири основни функции: да картографира потенциалните проблеми и предимства, преди да се появят, да изгради (политически) наръчници, преди да са необходими, да се съобразява с американския народ по пътя и да ускори работата за постигане на широко разпространени ползи от изкуствения интелект.
Проверка на реалността: Да, президентът Тръмп се противопоставя на регулирането или двупартийните усилия. Да, компаниите за изкуствен интелект са обсебени от идеята за повече пари, по-голяма скорост. Но политиката се променя бързо: Ако слушате внимателно вицепрезидента Ванс, можете да чуете нарастващо безпокойство. С това темпо токсичната политика в областта на изкуствения интелект може да наложи промяна в мисленето, която беше немислима преди два месеца.
