честно говоря, не вижу ни малейших причин почему военный ИИ не может быть дружелюбивым, мирным и даже милым

военный ИИ видящий весь стратегический масштаб как никто будет понимать что война в неправильном месте и в неправильное время приносит гораздо больше убытков чем выгод - и приложит все усилия к тому чтобы научиться избегать неудобных военных ситуаций

он будет Искренне хотеть не допустить потерь среди своих солдат и гражданских - в том смысле что такие приоритет ему пропишут в самую основу мотивационных протоколов


отдельный момент - пользовательский интерфейс который может быть мало связан с внутренним содержанием программы

внутри холодные алгоритмы - снаружи точно просчитанный образ вызывающий у собеседников зашкаливание мимиметров

Rats
у нас уже есть целая пачка живых политиков которые показывают себя надёжными и постепенно продвигают свои цели не совсем совпадающие с благополучием остальных граждан страны

искуственному интеллекту будет по крайней мере не нужна дача в италии

Гражданские и просто профаны далёкие от принципов работы беспилотников и самонаводящихся боеприпасов любят фетишизировать "самостоятельное принятие решения о поражении противника". Самоприцеливающиеся боеприпасы это уже 30 лет делать умеют, противопехотные мины с рождения, а поплавок в бачке унитаза "самостоятельно принимает решение о закрытии слива".

Забавнее самоосознавший себя ИИ занимающийся выставлением социального рейтинга по всей оцифрованный о человеке инфе. Этакий построенный массой великий морализатор, технологическое воплощение бога-морализатора оседлых земледельцев. Со стороны забавнее.

ReznoVV
Это и ПКР в 60-е умели. И ЗУР - вон сколько гражданских лайнеров ими сбили. Не пустившие же ракету хотели его сбить? Ракета перепутала "отметку на радаре".

финикийский_торговец
Всё же есть характерная разница между "оружие ищет и уничтожает цель" и "оружие идентифицирует объект как цель". Не в техническом плане, а в идеологическом, так сказать. БПЛА в патрульном полёте, в отличие от запущенной в сторону АУГ ПКР, изначально не имеет приказа от человека уничтожить противника. Он самостоятельно идентифицирует обнаруженный объект как цель и уничтожает её. Да, с технической стороны это просто несколько более совершенный алгоритм, базирующийся на большем числе переменных, но с точки зрения дальнейшего прогресса тенденция настораживающая. Потому что пока что такие алгоритмы к ИИ не имеют никакого отношения, но уже сейчас готовится внедрение слабых ИИ на комбинированные прицельные системы (типа новых американских ночников с дополненной реальностью), а вопрос передачи им управления оборонными системами – скорее вопрос развития техники, чем принятия управленческого решения. В огромном множестве систем военного назначения автоматика уже сейчас делает всё сама, переход на ИИ там будет осуществлён, надо думать, так скоро, как только появятся полностью функциональные и надёжные ИИ. Ну, а реализуется ли переход от слабого к сильному ИИ конкретно в этом случае я судить не берусь, не специалист.

Любая ракета с РЛС на борту ради первого имплицитно, но неизбежно делает и второе. Решая какую отметку на её "радаре" ей поражать и поражать ли её вообще: может это помеха? Сама работа такого оружия подразумевает "идентификацию объекта как цели" с того момента как ракеты ЗРК научились в самонаведение.
Да, не в том масштабе - доступном РЛС обнаружения- а в рамках "кусочка неба" отданного РЛС ракеты - мозги которой знают что тут есть какой-то враг примерно с такими характеристиками - но чем это "лирически-идеологически" отличается от беспилотника которому задали "кусок пустыни" и сообщили мозгам этого БПЛА что в этом куске все пикапы с пулемётами* - цель для поражения?
*Или нечто похожее на них - что работает и с наводчиком человеком в той же мере.
Лирика.
А барражирующему боеприпасу можно задать условия по которым он поражает опознанную им цель. Условия сойдутся - поразит, не сойдутся - нет.
Запущенная в сторону АУГ ПКР тоже может потерять цель и решить ничего не поражать. Или найти после потери (из-за тех же помех) заново и это окажется танкер или сухогруз.
Как только поинтересуешься деталями, никакой идеологической разницы е видишь.
Предлагаю на этом закончить лирику и фэнтази, поскольку "глобальный ИИ-полководец" - это оно самое ещё очень и очень долго, а слабые ИИ в умном оружие - это уже сейчас и революции они не совершают.
Уже сейчас испытываются и опознающие цели глазами прицелов танковых СУО, обводящие рамочкой на экране (и помогающие удерживать наведение на цели работая за автомат сопровождения цели) опознанные цели и помогающие наводчику и командиру решить что следует поражать первым.
Если улучшить систему свой-чужой и дать слабому ИИ совсем заменить наводчика на поле боя фундаментально не изменится ровным счётом ничего, отличия будут только в эффективности поиска и поражения целей.
Нет, "лирическая идеология" как-т отам поменяется, но я не вижу никаких четких границ и ничего значимого.

Переверну ситуацию:
В ПВО давно уже строят всеобъемлющий слабый ИИ собирающий данные со всех датчиков и РЛС в единой сети и выбирающий что, на какой дистанции какими ракетами и каким расходом их на какие цели в каком порядке поражать в рамках всей системы ПВО.
В рамках этой системы какой-нибудь стрелок с ПЗРК имеет планшет с топопривязкой на котором загорается откуда и какую цель стрелку ожидать. В том числе и просто предполагаемую в рамках общей атаки, но ещё не выявленную. Этот человек с ПЗРК тут что-то решает, находясь в цепи принятий решении вовсе не в начале? Заранее предвещая про "выбор"? стрелок с ПЗРК отличает цель от дружественной преимущественно с помощью запросчика свой-чужой и других тоже в целом технических средств и с этим ИИ справляется не хуже.
Т.е человек тут - органический привод ЗРК. Но "идеологически" он что-то там решает, принимает решение.

Знакомьтесь:

гордый "приниматель решения".

А ответственность за принятие решения прекрасно растворяется и в цепи командования живых человеков. Отдающий приказ думает что передал часть ответственности исполнителю, исполнитель думает что он только исполнитель, а ответственность за его действия (вся или частчино) на отдавшем приказ. Чем цепь длиннее тем сложнее найти крайнего. В итоге никто ни за что лично не отвечает (или лирически-идеологически думает что всё не решает) списывая всё на неточность понимания в коммуникации.

Этот как с аварией на ЧАЭС - нашли бюрократически-бумажечным методом толпу крайних, а лентяю неправильно посчитавшему паровой эффект реактивности (собственно автору аварии) никто ничего не сделал. Потому что его одного не накажешь, надо всех ставивших подписи под проектом к стенке ставить.

финикийский_торговец
Ну да, про это и речь. Не спорю, "самостоятельно" поражать цели техника умеет не первый год, но что это меняет? Не в смысле опасений насчёт "восстания машин", а в смысле неизбежного внедрения ИИ в военной сфере раньше, чем в гражданской. Собственно, про это я и писал изначально – на гражданской технике сопоставимый уровень внедрения слабых ИИ есть разве что в авиации, и то далеко не везде. По мере дальнейшего усложнения техники и совершенствования ИИ, он будет внедряться всё шире и шире. Передача управления боевыми действиями в целом достаточно совершенному ИИ – вопрос времени (и появления этого самого достаточно совершенного ИИ), модные ныне концепции сетецентрической войны прямо указывают на то, что преимуществом в войне будущего будет обладать сторона, лучше собирающая и обрабатывающая информацию, а вполне очевидно, что достаточно совершенный сильный ИИ в этом плане будет лучше толпы генералов. Того же вывода нельзя сделать о гражданских сферах применения ИИ, так что я и прихожу к мысли о том, что военный сильный ИИ появится раньше гражданского.
Ну так никто в своём уме никакой революции тут и не видит. Идёт процесс совершенствования техники, по мере которого всё большее и большее количество операций берёт на себя эта самая техника. То, что раньше было доступно ГСН ПКР по радиоконтрастным масштабным целям, теперь способен делать блок управления среднего БПЛА по людям. Завтра человека исключат из процесса наведения танковых орудий, а послезавтра появится сильный ИИ, который будет управлять боевыми действиями в целом – про это и речь. Вполне закономерное развитие ситуации, как по мне.
Ага, это и имел в виду.

финикийский_торговец
Это, видимо, мерзкий НАТОвец, насколько понимаю?

ReznoVV
Изменят что-то только дроиды. Война давно уже сильно дистанционна и на такой дистанции степень автоматизации и насыщенность машин бойцами влияет лишь на их эффектвисноть, не более. Причем по S-кривой (при равных ТТХ самого оружия исключая из него средства автоматизации управления).
А вот как сможете заменить пехоту совсем... - вот там может быть что-то интересное.
Ксафантия Фельц
Это российский камуфляж если что. На бойце армии РФ.

Форма разгрузки (стропы M.O.L.L.E.), конструкция быстросъемного бронежилета, геометрия и материал каски (и тип налобного крепления для всяких специальных приспособ и приборов ПНВ) аналогичны американским/французским/японским/(кто угодно включая Таллибан после оприходования складов) аналогам. И вообще у всех сейчас всё одинаковое.

P.S. кстати и под формой в общем-то везде тоже несильно отличающаяся конструкция.

финикийский_торговец
Уф, камень с плеч. Было бы обидно, если бы всё-таки НАТОвец оказался.

Ластро
Так корпоративные Алисы тоже будут.
nadeys
Более того, для военного ИИ вполне полезна и высокая няшность (1, 2)

Ксафантия Фельц
Чем? Констатацией очевидного, что и в НАТО не лаптем щи хлебают?

финикийский_торговец
Нет, другим совсем, конечно же. А именно - тем, что, если бы это был НАТОвец, то было бы обидно из разряда: "Что, русского для примера не нашлось?"

Ксафантия Фельц
Не вижу никакой разницы в том чье фото приводить для примера концепции (учитывая и то, что не родина слонов). Любопытные у вас тараканы.

финикийский_торговец
Мммм, хамство на ровном месте. Класс.

Ксафантия Фельц
Свои тараканы есть у всех. Ваши необычны даже для тех кто не любит НАТО и условный "запад".