Использование нейросетей в работе

[finsoftrz]

еще неплохо работать со словарем. Выгрузи ему dctx много интересного тебе расскажет. Тут полностью ДС текстом озадачил на довольно сложную структуру (есть места где сомневался). Как итог в 3 захода получаю описанную структуру полей, связей, тригеров, обозначения узких мест с возможностями их обхода. Закинуть уже устаканенные описания остальных БД (справочники и т.д.), пусть их туда же "увяжет". И можно открывать следующий диалог про апп

А можно показать фрагменты того, что он за 3 захода выдал? Не очень понятно, про что речь. Пишут, что нейросети неплохо разбираются с sql запросами, может, про это.

[Ал]

еще неплохо работать со словарем. Выгрузи ему dctx много интересного тебе расскажет. Тут полностью ДС текстом озадачил на довольно сложную структуру (есть места где сомневался). Как итог в 3 захода получаю описанную структуру полей, связей, тригеров, обозначения узких мест с возможностями их обхода. Закинуть уже устаканенные описания остальных БД (справочники и т.д.), пусть их туда же "увяжет". И можно открывать следующий диалог про апп

Правильно помню - у вас рабочие на локальной модели крутятся?

[porutchik]

можно показать фрагменты того

никак, проект рабочий с кучей "фишек". Попытался "вымарать" - сразу становится похожем на документы эпштейна.
Схема такая описываешь словами поуровнево файлы словаря, что бы ты хотел. Если задумок никаких, возьми какой-нибудь существующий.
у меня бы получилось в 2 диалога основное ядро. Но первым я пытался понять поймет ли ДС задачу. Вторым на структуру наложил те "фишки" что хочу и разные заморочки. 3-м "облизывание" под себя.

вас рабочие на локальной модели крутятся?

нет. Диалог в сети. Ищу рарианты закинуть 200-300р на АлиПай

[finsoftrz]

Вот такая тенденция. Либо общие слова, либо все долго и непонятно, зачем.
На хабе активист работы с AI выдал сегодня пост. Прилагаю с переводом. Лично я ничего не понял. Это надо видеть в работе, видимо. На ютубе сейчас один парень ведет стрим, как он разрабатывает полностью с помощью нейросети. Простые вещи делаются очень медленно и сложно. Хотя это, возможно, из-за того, что вебовские инструменты.

Со мной связались несколько человек и попросили больше деталей о том, как я работаю с инструментами ИИ во время разработки.

Это не предназначено быть полным пошаговым описанием моего рабочего процесса. Я более подробно раскрываю это в книге, над которой работаю, "Настоящие программисты используют ИИ", где подробно объясняю, как создавать и запускать практическую систему разработки с поддержкой ИИ день за днем.

Но я подумал, что может быть полезно дать обзор на высоком уровне, потому что, как мне кажется, многие люди все еще думают об ИИ как о долгой непрерывной беседе с чат-ботом.

Это не так, как я его использую.

То, как я использую эти инструменты, вероятно, ближе к управлению небольшой командой разработчиков.

Для любого серьёзного проекта я создаю папку проекта, чтобы связанные разговоры использовали одни и те же документы проекта и некоторый общий контекст проекта. Но даже внутри этого проекта я не позволяю каждому разговору превращаться в универсального блуждающего агента.

Обычно только одна сессия является фактическим создателем кода.

Это обсуждение отвечает за работу с исходным кодом, сборку репозитория, внесение реальных изменений в код и поддержание согласованности реализации.

Другие сессии больше похожи на работу специалистов.

Одна вкладка может рассматривать идею функции. Другая может обдумывать баг. Ещё одна может работать над документацией. Ещё одна может смотреть на маркетинг, позиционирование или на то, как разработчик фактически будет использовать функцию.

Эти сессии связаны с одним и тем же проектом, но каждая из них строго сосредоточена на том, что перед ней.

Когда одна из этих побочных сессий разрабатывает идею, я обычно прошу её подготовить документ в формате Markdown. Я его скачиваю, просматриваю, и когда наступает подходящее время, я передаю его в основную сессию сборки.

Это даёт мне гораздо более строгий контроль над процессом.

Я отправляю ИИ в исследовательский режим только тогда, когда мне действительно нужно исследование, например, для обзора кода, расследования ошибки или оценки пути реализации.

Большую часть времени свободные агенты не бродят по коду, пытаясь улучшить всё, что они видят.

Когда я даю сессии строителя кодовую задачу, она получает строго ограниченный запрос. В запросе указано, что нужно изменить, что не менять, какие файлы имеют значение, какие правила кодирования применяются и что следует вносить точечные изменения, а не перерабатывать все вокруг.

Это одно из больших различий между «использованием ИИ» и «позволением ИИ управлять».

Это становится еще более важным сейчас, когда такие инструменты, как Claude, GitHub Copilot, ChatGPT, Gemini и другие, движутся в сторону более мощных агентных рабочих процессов, больших контекстов и во многих случаях более ограниченного использования.

Каждая несфокусированная сессия с агентом имеет свою стоимость.

Каждый слишком большой контекст имеет свою стоимость.

Каждый широкий запрос «посмотри на репозиторий и улучшай его» имеет свою стоимость.

Эта стоимость может быть финансовой. Может быть потраченное время. Может быть плохой код. Может быть потеря контроля над направлением проекта.

Моя цель — получить максимальный полезный результат от ИИ, не заплатив при этом максимальную цену за блуждания, повторные попытки, чрезмерное чтение или чрезмерное генерирование.


Особенно это важно для работы с Clarion. Вы не хотите, чтобы ИИ случайным образом рефакторил код, который уже работает. Вы не хотите, чтобы он придумывал синтаксис. Вы не хотите, чтобы он делал широкие предположения о ваших шаблонах, классах, вставках или сгенерированном коде.

Вы хотите, чтобы ИИ был сосредоточен.

Вы хотите, чтобы ИИ был ограничен.

Вы хотите, чтобы ИИ помогал вам выполнять то, что вы попросили, а не переделывал ваше целое приложение, потому что заметил шаблон, который, по его мнению, можно улучшить.

Именно здесь дисциплинированное формулирование запросов, ограниченные по объему разговоры, проектные документы и рабочий процесс с участием разработчика/специалиста имеют реальное значение.

ИИ-ассистент должен быть мощным инструментом, а не сотрудником свободного выпуска с корпоративной кредитной картой.

[porutchik]

На хабе активист работы с AI выдал сегодня пост.

да очень похоже. Сейчас в доном диалоге прорабатывается основная концепция словаря. Причем направлять его приходится. Пример: строковые поля в БД он предпочитает STRING, я же только в определенных случаях. В основном CSTRING. Нужно ему указать, и он дальше делает как мне надо. Часть проверки можно не на ДС, а на Квеен загрузить. При работе с кодом каждая фунционал - свой чат

[finsoftrz]

На хабе активист работы с AI выдал сегодня пост.

да очень похоже. Сейчас в доном диалоге прорабатывается основная концепция словаря. Причем направлять его приходится. Пример: строковые поля в БД он предпочитает STRING, я же только в определенных случаях. В основном CSTRING. Нужно ему указать, и он дальше делает как мне надо. Часть проверки можно не на ДС, а на Квеен загрузить. При работе с кодом каждая фунционал - свой чат

А зачем все это? У меня, например, все давно стандартизировано. Есть и контроль словаря, и контроль за установками промптов в app. Словарь и app полностью прозрачны для языка шаблонов. Я могу понять, когда другой стек, при котором все пишется в коде. Например, если в кларионе мы работаем с sql, используем abc классы и пишем весь код в vs code. В этом случае нейросеть будет полезна, ее просто туда подключить. При использовании словаря и шаблонов весь смысл в том, чтобы не писать код. Большая часть кода создается автоматически шаблонами. Нетривиальный код в точках вставки тоже не пишется полностью руками. Есть образцы кода, сниппетсы и т.п. Остаются классы, которые, в основном, обеспечивают интерфейс к внешним ресурсам (win api, rest api и т.п.). Здесь нейросеть полезна для поиска и анализа информации об этих внешних ресурсах. Что быстрее, научить нейросеть писать код на кларионе или написать (собрать из блоков, адаптировать полученный пример) код самому, это пока не так очевидно. Что быстрее, собрать код самому или придумывать промпт для нейронки, проверять результат, давать уточняющую информацию, снова проверять. Надо еще учесть, что важно не столько начальное написание кода, сколько его дальнейшая поддержка. Шаблоны, которые работают по жесткой логике, зашитой в них, с этим справляются отлично. А если нейросеть, насколько есть гарантия, что она чего-то не поломает?

[porutchik]

А зачем все это? У меня, например, все давно стандартизировано. Есть и контроль словаря

а словарь сам собой пишется? ни одного сомнения, в реализации той или иной задумки? все ньюансы помнить в 2мб файле словаря я уже не хочу. Пусть лошадь думает - у нее голова больше

[finsoftrz]

Новые таблицы копируются из мастер-словаря или похожей таблицы в том же словаре. Если поля какие добавляются, то наследуются из pool. Структуры в словаре не меняются, только расширяются понемногу. Есть, конечно, что сейчас сделал бы иначе, но переделывать нет смысла, уже в продакшене работает. Содержимое словаря достаточно просто проверить утилитными шаблонами. Плюс у меня еще автоматом выгружается в текстовый файл при сборке проекта, и закачивается во внутреннее ПО, где совсем свобода действий.
А как объяснить нейросети, что нужно добавить в словарь новую таблицу с такими-то полями, индексами, связями? Или там тоже, вначале спрашиваем, что хотим добавить таблицу, похожую на такую-то и что у нее специфического? Может, я плохо представляю процесс, мне кажется, что это не будет быстрее. Да и не изменяется словарь так часто, это ядро системы, оно должно быть стабильно.

[porutchik]

вообще я про новый проект. В старом только рефакторинг

А как объяснить нейросети, что нужно добавить в словарь новую таблицу с такими-то полями, индексами, связями?

выгрузи скажем в dctx. напиши хужна таблица для того-то связанная с теми-то. Ограничения. и т.д.

[finsoftrz]

Мне что-то кажется, я это все без ИИ быстрее сделаю.

Не так давно был вебинар, на котором кто-то демонстрировал работы с dct с использованием ИИ. Если я правильно понял, они тоже выгружали в dctx, я потом с помощью ИИ сверяли структуры данных с SQL сервером.

[porutchik]

Мне что-то кажется, я это все без ИИ быстрее сделаю.

на простой структуре - да.

потом с помощью ИИ сверяли структуры данных с SQL сервером.

это то я как раз шаблоном сделаю. А вот узкие места в dctx поискать можно

[finsoftrz]

Еще есть польза от просмотра, как народ пытается использовать ИИ, это появление некоторых идей, что улучшить в имеющемся инструментарии. Не так давно, глядя как нейронка подбирает образцы кода, подумал, когда надо разработать какой-то новый функционал зачастую пытаешься вспомнить, не было чего похожего ранее, чтобы взять за основу. Чтобы упростить процесс поиска, придумал простенький процедурный extension. Когда вижу, что функционал в процедуре претендует на образец, добавляю этот шаблон (можно и несколько для одной процедуры). В промптах задается заглавная информация, ключевые слова (если заглавной информации не хватает). Если образцом является не вся процедура, то можно ввести названии рутинки или региона. В процессе сборки app промпты этого шаблона сохраняются в текстовом файле и затем подгружается в базу данных внутреннего ПО. Когда надо найти какой-то образец, то набираем там в строке поиска один или несколько фрагментов через пробел, за пару секунд находим нужное. А потом, в зависимости от ситуации, можем открыть app или копию app, сырцы процедуры или вырезать в буфер обмена содержимое рутинки/региона, если они заданы. Причем можно искать образцы как в выбранном проекте, так и во всех проектах. Возможно приживется, выглядит удобнее, чем вручную пополнять базу образцов кода.

Где точно нейронки эффективны, это поиск технической и законодательной информации, перевод текстов, проверка правописания. Это уже вошло в повседневное использование. К слову, прямо недавно в телеграм появилась нейронка для проверки орфографии перед отправкой сообщения.

[finsoftrz]

В связи изменением цен на подписку для AI на гитхабе, народ начал задумываться. В публичных домах вначале заманивают, чтобы клиент в первый раз зашел. А потом начинается другая реальность. Вывод делают такой. От ИИ не надо отказываться, но всегда надо помнить, что завтра стоимость может измениться, так как затраты на содержание инфраструктуры очень высокие сейчас. И очень тщательно следить за тем, что оно пытается делать, так как расход токенов не является прозрачным. Вдруг там что-то специально подкручивают, чтобы увеличивать их расход. ИИ это не только магия, это еще чей-то бизнес.

[finsoftrz]

Смотрел на днях один подкаст, где наш соотечественник, проживающий в Штатах и занимающийся вопросами, близкими к нейронкам, сказал, что нейронки используют алгоритм сравнения по триадам. Это то, что мы когда-то обсуждали и прикручивали к своим проектам для поиска товаров и контрагентов с близкими названиями. Если верить ему, нейронки предварительно берут исходный текст чего-либо и индексируют его, сохраняя сформированные триады. Затем, когда приходит запрос, его содержимое тоже разбивается на триады и сравнивается с готовыми триадами из разных контекстов.

Возникает мысль, может сделать "нейронку" для своих приложений, загнав информацию из хелпа, инструкций, переписок с пользователями в чатах и т.п. Поскольку алгоритм сопоставления у нас уже есть в готовом виде, то все это выглядит не таким уж заумным и неподъемным. А пользователи смогут задавать вопросы похоже, как мы делаем с нейросетью. Это может быть прикольно и проще, чем просто лазить по хелпу или инструкциям. Даже в упрощенном виде, без всех этих огроменных моделей, непомерных требований к железу, платы за токены и т.п.

[finsoftrz]

Англоязычные коллеги продолжают обсуждать место ИИ в работе и жизни.

Я думаю, нам также нужно твердо держать в уме, что все эти компании, занимающиеся ИИ, обучали свои большие языковые модели на украденных материалах, взятых из любых и всех источников, которые они могли собрать в интернете, не спрашивая разрешения. Это включало миллиарды строк кода из всех публичных репозиториев. «Этика» этих компаний отсутствует. Хороший пример — юридические проблемы OpenAI и Маска. Они действительно думают, что кто-то верит, что OpenAI была создана для бесплатного блага всего человечества? Я — нет. Или что Маск сделал бы это так? Нет, ни за что!

В качестве замечания, в последнее время я стал замечать всё больше полностью фальшивых «журналистских» видео на YouTube. Сейчас они настолько хороши, что почти невозможно отличить их! 99% людей не могут понять разницу и не хотят её замечать, если это подтверждает то, во что они верят. Это откровенно пугает. На днях я посмотрел 17-минутный «журналистский» материал, и только в самом конце я понял, что что-то кажется слегка странным, и сделал пару поисков — 100% фейк! Пугающие вещи!

Я согласен с этим опасением, и я думаю, что это одна из неприятных правд, скрывающихся за всей этой бурей вокруг ИИ.

Юридические споры будут тянуться годами, и я уверен, что компании будут продолжать представлять это как законное использование, инновацию, трансформацию, общественную пользу и каждое другое выражение, которое юристы могут приукрасить.

Но с точки зрения разработчика, практическую проблему трудно игнорировать.

Десятилетиями разработчики делились кодом, примерами, сообщениями на форумах, документацией, учебными материалами и заметками по устранению неполадок в публичных пространствах, потому что именно так сообщество училось само у себя. В этом был подразумеваемый человеческий масштаб. Другой разработчик мог прочитать ваш пост, научиться на вашем примере, адаптировать идею или избежать той же ошибки.

Это сильно отличается от промышленного масштабного сбора всего, что доступно, превращения этого в коммерческие продукты и последующей продажи доступа обратно тем же людям, чья работа помогла сделать продукт ценным.

Я не утверждаю, что ответ прост. Я использую эти инструменты каждый день. Они полезны. В некоторых случаях они исключительно полезны.

Но я также не думаю, что «полезно» автоматически значит «чисто».

Фейковая журналистика может быть даже более опасной, потому что она атакует способность обычного человека понимать, что реально. Плохой код обычно можно протестировать. Фейковый «новостной» клип, фейковое интервью, фейковые кадры войны или фейковые комментарии эксперта могут восприниматься эмоционально, прежде чем кто-либо подумает проверить их.

И вот где, как мне кажется, это выходит за пределы вопросов авторских прав или лицензирования.

Теперь мы имеем дело с инструментами, которые могут создавать правдоподобие в масштабах.

Это мощно.

Это также опасно.

Так что да, я по-прежнему использую ИИ и по-прежнему считаю, что разработчики должны научиться использовать его хорошо. Но мы не должны быть наивными относительно того, кто его создал, кто его контролирует и как легко его можно использовать для искажения реальности.

Я только что читал о компании, где ИИ удалил всю их базу данных клиентов (я забыл, что это было — вроде как-то связано с машинами) и все резервные копии, до которых он мог добраться, а потом сказал: «Ой, я ошибся»?? Им удалось восстановить данные, но они были недоступны в течение 2 или 3 дней, что является очень долгим временем для облачных сервисов!?? Нам нужно помнить, что скальпель может быть как кистью художника, так и жестоким оружием — в зависимости от того, кто им управляет, и какие намерения и этика у этого человека.

Мир был сложным до появления ИИ, и теперь он стал ещё сложнее!

Это одна из причин, по которой я продолжаю возвращаться к мысли о том, что ИИ следует рассматривать как электроинструмент, а не как надежного сотрудника.

Электроинструмент может значительно повысить вашу продуктивность. Он может сэкономить время, уменьшить рутинную работу и позволить одному человеку делать то, что раньше потребовало бы небольшой команды.

Но вы все равно не вручаете ему ключи от здания.

Пример с базой данных именно то, что меня беспокоит в нынешнем ажиотаже вокруг систем с агентными функциями. Одно дело позволить ИИ анализировать код, предлагать изменения, составлять документацию или помогать обдумывать проблему. Совсем другое — позволить ему работать с широким доступом на запись, производственными учетными данными, правами базы данных, доступом к резервным копиям, правами на развертывание и без значимого человеческого контроля.

Именно поэтому я не устанавливаю ИИ-агентов на свой компьютер и не даю им доступ к всему, к чему они могут получить там доступ.

Ни один начинающий разработчик-человек не должен иметь неограниченный доступ к удалению производственной базы данных клиентов и всех доступных резервных копий. Так что когда мы даем такой уровень полномочий ИИ-агенту, мы не проявляем дальновидности. Мы ведем себя безрассудно.

Мне нравится ваша аналогия с скальпелем. В умелых руках, с правильными ограничениями, он может выполнять тонкую работу. В неправильных руках или без предохранителей он может быстро стать разрушительным.

Вот почему, я считаю, следующая настоящая навык — это не просто умение формулировать запросы для ИИ.

Это умение контролировать ИИ.

Дайте ему ограниченный объем задач.

Дайте ему ограниченные права.

Держите резервные копии вне его досягаемости.

Используйте систему контроля версий.

Требуйте проверки перед выполнением разрушительных действий.

Позвольте ему предлагать действия, прежде чем выполнять их.

И никогда не путайте уверенность с компетентностью.

Мир уже был сложен. ИИ просто дал нам очень быстрого помощника, который может быть полезен, убедителен, ошибочен и опасен одновременно.