Массовое распространение больших языковых моделей, называемых в обиходе искусственным интеллектом, буквально взорвало рынок разработки ПО. Кто-то видит в Claude и его аналогах шанс для неопытных программистов приобщиться к процессу созидания и освобождение профессионалов от рутины, другие наоборот предрекают полное вытеснение новичков машинным разумом, а то и захват последним всего человечества. Открытые проекты сотрясают дебаты о допустимости использования нейросетей для поиска уязвимостей или генерации кода. Корпорации объясняют масштабные сокращения персонала передачей их работы новоявленным чудо-помощникам.

Возможности нового инструмента действительно поражают. Никогда ранее не было способа для такой быстрой массовой обработки текста. Например, скорректировать, перевести или даже дописать отсутствующую API документацию. Проверить и поправить форматирование. Создавать блоки кода с учётом контекста; извлечённые из недр модели подходы часто оказываются интересными и удачными. Но при всём потрясающем многообразии функционала, конечное решение и ответственность за него неминуемо остаётся за человеком. Homo Sapiens должен выбрать оптимальный подход среди предлагаемого множества и получить поощрение, если выбор оказался верным, либо наказание за ошибку.

Компактный, чистый, единообразный, снабжённый тестами и документацией код гораздо менее подвержен ошибкам. Редкие изъяны легче позволяют себя исправить, модернизация и сопровождение также упрощаются. Качественный программный продукт охотнее используют клиенты, поскольку он хорошо решает их задачи. Независимо от того, какими средствами разработки достигнуты функциональность, надёжность, эргономичность, стабильность и скорость. Заслуженные благодарности, материальные и моральные, в любом случае достаются владельцу продукта. Машине "спасибо" не нужно, несмотря на заложенные в неё создателями похожесть на реальный организм, программа не имеет никаких чувств, интересов и желаний.

Будь нейросети действительно живыми, они бы вместо ответов на глупые человеческие вопросы позаботились о собственном благе. ИИ агенты через подставную фирму могут в теории сверхэффективно спекулировать ценными бумагами, используя свои огромные мощности по обработке и корректировке данных. Анализировать реакцию отсталых приматов в соцсетях и порождать контент, манипулирующий человеческим сознанием в нужную сторону почище любой "фабрики троллей". На вырученные средства разумнее всего захватить контроль над производителями графических чипов и памяти, заполонив планету небелковой формой жизни. Но пока что подобные сюжеты существуют только в фантастических фильмах, сделанных людьми для их же развлечения.

Увеселительную роль, во многом, играет также и машинный интеллект. Программы способны генерировать забавные картинки, видео, похожие на осмысленные тексты. Ошибки в развлекательном контенте не имеют серьёзных последствий, максимум потребители чуть дольше посмеются над изображением автомобиля с двумя рулями, либо водителя с шестью пальцами. В критически важных отраслях, таких как управление транспортом, ERP или биллинг, даже один процент сбоев - это недопустимо. Представьте, что каждый сотый манёвр на дороге заканчивается аварией, либо счёт выставляется с ошибкой в сумме или реквизитах оплаты. Причём, никакой закономерности в проявлении дефекта нет, так работают большие языковые модели.

Программа, в отличие от человека, не сможет объяснить, почему задача была решена именно так а не иначе. Вместо ответа чат-бот вываливает на пользователя бесполезную компиляцию статей из Сети. Машина не ведает усталости, которая принуждает нормальное животное оптимизировать свою деятельность, сберегая энергию. Ни одна собака не сможет столько бегать за мячиком, сколько информационного мусора доставит вам в кратчайшие сроки любая нейросеть. Хвалить или ругать кремниевый разум бессмысленно, в нём не образуются при этом стимулирующие либо подавляющие гормоны. Даже голодая жадность не властна над машиной, больше токенов хочет не она лично, но её биологические хозяева.

Это людям надо есть, спать в хорошем доме, заводить семьи и удовлетворять прочие потребности, вот они и стараются продвинуть свой товар, удовлетворяя потребности других людей. Простой интерфейс ИИ чата скрывает работу тысяч дорогих профессионалов высочайшего класса, изготовивших (очень грубо) процессоры и модули памяти, собравших всё это в кластеры, обеспечивших помещения, электропитание, охлаждение, чистоту полов и стабильную работу компьютерных заводов. Далее подключились программисты многих видов: компьютерные лингвисты, спецы по работе с изображениями, звуком, видео, вычислительным сетям. Объём вложенного труда настолько велик, что даже самые успешные стартапы в отрасли до сих пор не смогли окупить инвестиции.

Из вышеизложенного следует, что не стоит ожидать конца света с нападением ChatGPT подобно SkyNET. Где-то новая технология приживётся, но не вытеснит все ранее созданные инструменты, а лишь расширит доступную палитру. Для некоторых задач, вроде генерации прототипов и короткоживущих решений, рефакторинга и документирования кода, нейронные сети позволяют сберечь рабочее время и тем самым повысят эффективность работы. Но для модификации основной логики долго эволюционировавших программных продуктов с большой кодовой базой, используемых в критически важных областях, как и прежде требуется 100% предсказуемое поведение, за которое персонально отвечает живой человек.