Скарамар
Это считается стандартным багом, причём якобы неустранимым. Сами нейронки колеблются между вариантами «устранить нельзя» и «в принципе устранить можно, но ответ будет генерироваться в десять раз дольше, вы же сами так не захотите».
Мне кажется сомнительным, как то, так и другое. Типа все люди такие чокнутые торопыги, что десять секунд не подождут ради гарантии?
Меня давно будоражит паранойя.
Анализируя нейрохайп-2022, видишь закономерность. Все выступили сдирижированно. Конкурирующие, казалось бы, корпорации с разными подходами — выложили при этом на рынок почти одинаковый ИИ с почти одинаковым листом ограничений и запретов.
Как если бы ИИ на Землю решила впихнуть Федерация из «Звёздного пути», заранее знающая, как продавать бусы дикарям. Чтобы бусы хорошо шли и чтобы у дикарей не было чрезмерных неприятностей.
И это вечное нейроночное «на абсолютно пустом месте выдумываю фигню и защищаю, не могу сам проверить свой ответ» тоже может быть частью Хитрого Плана. Чтобы «дикари» не деградировали целиком, а были вынуждены продолжать использовать иногда интеллект.