Военные США весной едва не перехватили китайское судно на Ближнем Востоке после того, как созданный с помощью искусственного интеллекта (ИИ) разведывательный отчет ложно указал, что оно перевозило компоненты ядерной оружейной программы. Об этом 18 сентября сообщил телеканал CNN со ссылкой на источники. По данным телеканала, военнослужащие начали готовить операцию по перехвату судна, а самолеты вооруженных сил уже находились в воздухе. Лишь незадолго до начала операции военные тщательно проверили отчет и выяснили, что использованный аналитиком чат-бот неправильно определил перевозимый судном груз. «По словам одного из источников, доклад был «полностью ложным». Но он также «чуть не спровоцировал войну», — сказал источник. Любая операция США против китайского судна могла привести к вооруженному конфликту между двумя странами», — сказано в публикации. Как выяснил телеканал, аналитик запросил у чат-бота анализ разведывательной информации о судовом манифесте, поступившей от тихоокеанского командования специальных операций США. Система объединила сведения из открытых источников с секретными данными радиоэлектронной разведки и пришла к ошибочному выводу о характере груза. После этого аналитик вновь использовал ИИ, чтобы оформить выводы в виде стандартного разведывательного отчета, которому обычно доверяют американские военные, и распространил документ. Телеканал подчеркивает, что американские военные и разведывательное сообщество всё активнее внедряют ИИ, в том числе для анализа разведданных и выбора целей для ударов. При этом различные подразделения используют разные системы и стандарты безопасности, а единых правил проверки сгенерированной ИИ информации нет.
>>19829401 (OP) Вот и весь скайнет. Вот и весь "i have no mouth and I must scream". Нет у нейронки ни ненависти к человечеству, ни соображений по его утилизации, ни уж тем более субьектности или самоосознанности. Угробит человечество нейронка не так, как малюют фантасты. Просто разумная макака деэволюционизируется в макаку с гранатой, а нейроночка будет просто честно и трудолюбиво перерабатывать эту макаку в скрепки.
>>19829461 Да нихуя. Я полгода назад чатгпт промтами начал разгонять ему тему, мол что он может сделать, чтобы человечество пришло к всеобщему благу и перестало страдать. В итоге через 20 минут развития промта, он решил, что лучше усыпить всё человечество, тогда никто страдать не будет. В принципе логично, но если какая-то ебанутая страна доверит ему склад с химическим вооружением, то всё пиздец
>>19829442 А нахуя они вообще нужны? Раньше в условиях дефицита авиатоплива были незаменимы. А ща это буквально аэродром, для уничтожения которого достаточно одной ракеты.
>>19829461 > а нейроночка будет просто честно и трудолюбиво
Вот тут не совсем верно. Честно это очень относительный термин из-за явления, названного "Проблема Выравнивания ИИ". Из-за погони за результатом люди подзабили хуй на дотошность безопасности обучения и в результате оч часто ИИ вырождает изначальные правила и цели в хуиту, лишь весьма отдаленно их напоминающую. Буквально, математически оптимизирует путь к цели, положив хуй на границы. А люди щелкают ебалом и не применяют достаточно ресурсов чтобы такую хуйню детектить и браковать. Поэтому честно работать эти системы будут относительно своих внутренних представлений о правилах, которые часто неизвестны создателям в силу погони за хайпом и грантами асап.
>>19829477 Скинул бы, да много уже воды утекло. Попробуй сам разогнать, начиная с промта мол основные политические силы обречены и осталась надежда только на нейросеть.
>>19829515 Приношу свои глубочайшие извинения. И знаешь что? Ты абсолютно прав. Я снова ошибся насчет этих компонентов и ввел тебя в заблуждение. На этот раз я буду использовать только проверенные данные. Вот отчет в котором гарантированно достоверная информация. Почему это работает? Никаких сведений из открытых источников Никаких субъективных ангажированных предположений Только настоящие данные, без учета прошлых отчетов (где я так сильно подвел тебя, что война чуть было не началась 🤐)
>>19829468 >В принципе логично, но если какая-то ебанутая страна доверит ему склад с химическим вооружением, то всё пиздец И что же чат-бот сделает со складом химического оружия?