Антон Владимирович Кайманский
1) "Затем, что автор поставил вопрос о сущности личности через творчество. Обычно это делают через эмоции. (См. фильм "Она" ("Her") к примеру.)"
Не согласен. Если бы в тексте не было указано, что "Центральной задачей программы было написание музыки через компиляцию гармонических сочетаний." и раскрыто общее назначение системы, то все было бы хорошо.
Я не смотрел указанную Вами ленту, но ознакомился с сюжетом. В ней вопросов никаких не возникает. Нет никаких намеков, что ИИ был создан для открывания верхней дверцы правого шкафа.
Ни одна компания не будет для написания музыки создавать личность, так как это коммерчески не выгодно. Вы представляете, сколько времени нужно, чтобы обучить нейросеть для такой задачи? А сколько нужно места для дата-центров, где она будет функционировать (хотя можно предположить, что уже были разработаны компактные ВЦ, но верхний вопрос остается)?

3) Вынужден перескочить сразу на 3 пункт, так как он связан с 1.
Тут я с Вами согласен, в данном случае терминология и технические подробности вызвали проблемы первого пункта.
Но дальше проходит граница согласия. Они всегда нужны в поверхностном виде в малых объемах, чтобы предметная область была видна ровно настолько, чтобы не портить общее впечатление от текста.

2) Возможно тут я Вас не понял полностью. Даже в музыке есть паттерны и приемы, которые подлежат систематизации. Если учитывать этот факт, то сейчас возможно создание ИИ для написания новой музыки. Ведь создание композиции с новой комбинацией приемов уже есть новым продуктом (это можно и опровергнуть, рассмотрев вопрос с других сторон). Именно поэтому я задал этот ("Что вообще можно считать новым?") риторический вопрос. От него можно было бы развить проблему "Может ли машина творить". В другом случае вообще не стоило ее тогда начинать. У проблематики нет развития, а только начало и стандартный конец.
Благодарю