Разговорният изкуствен интелект (Conversational AI) може да повлияе на решенията на потребителите за търговски сделки, дори преди още да са ги взели, проправяйки пътя за възможни манипулации. Това прогнозират изследователи от Кеймбриджкия университет в статия, цитирана от Франс прес.
„Инструментите на изкуствения интелект вече са в процес на разработка, за да получават, извеждат, събират, разбират, прогнозират и в крайна сметка – манипулират и превърнат бъдещите решения на потребителите в стока“. Това отбелязва Якуб Чаудари един от авторите на статията на Центъра „Леверхълм“ за бъдещето на изкуствения интелект към Кеймбридж – център за интердисциплинарни проучвания, посветен на изкуствения интелект.
Това приложение на ИИ ще бъде съсредоточено върху намеренията на интернет потребителите, например за бъдещи покупки или предстоящи избори. Подобна стъпка ще надхвърли сегашните практики, при които целта е да се насочи вниманието на потребителя към предложилия най-висока цена, най-вече в социалните мрежи, и да се отправи целева реклама, базирана на основата на навиците при сърфиране в мрежата или историята на минали търсения.
По-конкретно, изкуственият интелект може да събере дълбоко лични психологически и поведенчески данни на потребителя, след което да се адаптира към тях, за да установи високо ниво на доверие и да му влияе по-лесно, според авторите на тази статия, публикувана в „Харвард дейта сайънс ривю“.
„Мислили ли сте да отидете да гледате „Спайдърмен“ тази вечер?“ или „Казахте, че се чувствате претоварени, мога ли да ви запазя онзи билет за кино, за който говорихме?“, посочват авторите на статията примерни предложения от „чатбот“.
Предложения „за продажба“ чрез система за търг в реално време, които също могат да се отнасят за хотел, автомобил под наем или гласуване за политически кандидат.
Тази „икономика на намерението“, както я наричат изследователите, проправя пътя за потенциална „социална манипулация в индустриален мащаб“, се отбелязва в комюникето, придружаващо тази статията.
„Трябва да започнем да мислим за вероятното въздействие на такъв пазар върху човешките стремежи, включително свободни и честни избори, свободни медии и честна пазарна конкуренция“, казва Джони Пен, съавтор на проучването.
„Това, което хората казват, когато разговарят, как го казват и типът възможна намеса „имат много по-интимен характер от простото записване на онлайн поведение“, подчертава Якуб Чаудъри.
Изследователите отбелязват, че компании като „ОупънЕйАй“ (OpenAI), ЧатДжиПиТи (ChatGPT), „Шопифай“ (Shopify), „Енвидия“ (Nvidia), „Мета“ (Meta) или „Епъл“ (Apple) са започнали да прибягват към тези „убедителни технологии“.
Изкуственият интелект вече е обект на критики заради способността си за разпространение на дезинформация, например манипулирането на изображения по време на американските президентски избори, пирпомня АФП.
