Дoлoxов: Из всех направлений, в которых действует ИИ, самое, а может даже и единственно этичное

Из всех направлений, в которых действует ИИ, самое, а может даже и единственно этичное — это ИИ-кодинг.

Ибо в отличие от генерации картинок, музыки, видео и текстов подразумевает, что конечным потребителем его работы будет не человек, а машина.

Ну то есть программирование в принципе — способ общения человека с машиной, так а что тут такого, если другая машина это самое общение облегчит, ускорит и улучшит?

19 июля в 10:51

Отключить рекламу

3 комментариев из 11

Показать ещё 8 комментариев

Lost-in-TARDIS

19 июля в 18:46

Заяц

Это действительно серьезный вопрос. Но с программистскими задачами хотя бы есть тесты.

На что у хитрых моделей порой возникает хардкодинг тестов. Не говоря о периодическом игнорировании условий тестов, граничных условий работы. Подборов неспрятанных от модели ключей и использовании их против всех правил. В общем, много веселого. (А также вайбкодеры, которые не перечитывают PR.)
Ну и о периодических приколах вроде агент удалил всю базу данных, отписал всех клиентов, я думаю, тоже все наслышаны.
Так что люди, которые вычитывают этот код, могут разбираться в коде и четко формулируют задачу, все ещё необходимы.

Это решается либо локальными опенсорсными моделями для богатых корпораций с их секретами, либо просто игнорированием проблемы для всех остальных.

Вопрос в стоимости факапов. Проблема не в том, что они текут данными юзеров к провайдеру модели, а в том, что они потенциально текут между юзерами. Свежий кейс, кажется, у Антропика: агент в сессии одного юзера смогла подобрать из сессии другого, абсолютно несвязанного юзера IP машины и ключ, сделал оттуда пул к юзеру номер один кода и бд юзера номер два. (Спасибо, что не rm -rd /)

Такого софта на практике раз, два и обчелся. Обычно переписывают или забрасывают раньше, чем настает это время. Да и человек еще не всегда означает гарантию. Например, программисты на Коболе постепенно заканчиваются.

Десять лет - это очень оптимистичная цифра. Я пока не видела подтверждений, чтобы серьезный не игрушечный проект хоть какого-то заметного размера вообще можно было разрабатывать с нуля и поддерживать только при помощи агентов, не говоря о каких-либо длительных сроках. На длинных дистанциях валят архитектуру, логику кода, влетают в баги и не могут пофиксить. А добавить новую фичу в уже готовый проект или пофиксить какую-либо ошибку не в ручном режиме (т.е. полный цикл от "вот есть кодовая база проекта, добавь ещё X" до PR без конкретных пояснений, куда добавлять, что не надо делать, что тестировать) - очень нет пока.

Показать полностью

	Дарт Пофигус 19 июля в 19:14
Из всех направлений, в которых действует ИИ ИИ нигде не действует. Его используют люди.

Заяц

вчера в 01:00

Lost-in-TARDIS

Я немного о другом. Значительную часть программистских задач хотя бы в принципе можно покрыть тестами, а вот все художественные это уже вопрос вкусов, о которых спорить можно бесконечно. Технические проблемы реализации это уже следующий вопрос.

Marlagram

Кстати, есть вроде как лифт, программа контроллера которого написана на Forth.

Я что-то слышал про телескопы, у которых управляющий софт на Forth.