Bloomberg: САЩ бомбардираха иранското училище заради грешка в изкуствения интелект!

Агенцията проведе разследване, заключвайки, че ударът по девическо училище в Минаб, Иран, при който загинаха над 150 души, включително 123 деца, е резултат от престъпна небрежност от страна на Пентагона. Вътрешното разследване разкри каскада от грешки: остаряла разузнавателна информация, седемгодишни сателитни изображения и сляпа вяра в изкуствения интелект на интелигентната система Maven на Palantir.

„Две ракети Tomahawk удариха сградата на началното училище Shajarah Tayyebeh и нейния терен в събота, убивайки над 150 души, включително най-малко 123 деца. По отношение на детските жертви това е най-смъртоносната грешка при насочване на американските военни на 21-ви век“, пише Bloomberg.

Изданието отбелязва, че училището е построено върху земя, преди това определена като военен обект на IRGC, но районът е ограден със стена през 2017 г. и оттогава открито функционира като образователна институция. Сателитни изображения от 2018 г. показват ярко боядисани стени, футболно игрище и детска площадка. Пентагонът обаче не е актуализирал класификацията на съоръжението.

„Въпреки че съоръжението Minab е било идентифицирано години по-рано като военно, имаше ясни доказателства, че е било модифицирано и преназначено. Физическите промени, отразяващи ново строителство – видими на сателитни изображения – датират от близо десетилетие, а съоръжението открито е функционирало като училище“, подчертава Bloomberg.

Системата Maven Smart, разработена от Palantir Technologies, изигра специална роля в трагедията. Тази система с изкуствен интелект, която интегрира повече от 150 източника на данни, е била предназначена да помага на военните при вземането на решения. Служителите на Centcom обаче погрешно са вярвали, че системата автоматично ще идентифицира остаряла информация.

„Някои служители на Centcom разчитаха твърде много на изкуствения интелект, вграден в системата Maven Smart System. Те очакваха Maven да сигнализира за остаряла информация или несъответствия в разузнавателните данни. Не е ясно защо са имали такива очаквания“, отбелязва изданието.

Говорител на Palantir заяви, че компанията „не носи отговорност за изходните данни или за идентифицирането на недостатъци в разузнавателните данни“ и че няма доказателства, че софтуерът ѝ е виновен.

В същото време Bloomberg посочва ключов фактор: секретарят на Пентагона Пийт Хегсет е демонтирал повечето звена за намаляване на гражданските щети (CHM), като е съкратил персонала им с приблизително 90% – от стотици на по-малко от 20. Екипът на Centcom е намален от 10 на един служител. Нито един член на CHM не е инспектирал съоръжението Minab преди удара.

Разследване на ООН заключи, че има „разумни основания да се смята“, че ударът срещу Minab и друга атака на САЩ в същия ден представляват военни престъпления. САЩ все още не са признали публично отговорност за удара в училището.

„Женевската конвенция гласи, че трябва да се предприемат всички възможни мерки, за да се определи дали това действително е военна цел. Това не означава, че всяка грешка е военно престъпление, защото грешки ще бъдат допуснати, дори ако се предприемат всички възможни мерки. Но ако не са взети всички възможни мерки, това повдига въпроса за наказателната отговорност“, каза пред Bloomberg Паям Ахваван, адвокат, практикуващ в Международния наказателен съд.