Как ИИ меняет технологии

Практически в любой области можно искусственный интеллект применить. HR-процессы, пиар-процессы, финансовые. Очень многие процессы автоматизируются очень легко. Техподдержка, разработка. Сергек создаёт технологии для умных городов. Если просто посмотреть, как и что мы делаем, обычный человек с этим не справится. В Сергейке используются практически все виды модели искусного интеллекта. Компьютерви - это незаменимая вещь. Также используются у нас рекурентные нейронные сети. Мы двигаемся в сторону сильного искусственного интеллекта, использование лмок, использование мультимодальных моделей.

Умные города могут ли работать в отрыве от и? Умные города без и вообще не способны. Без искусственного интеллекта с этим вообще невозможно справиться. Недавно я создал интеллектуального помощника для написания промтов, которые можно уже использовать как шаблон для каких-то действий. У меня есть даже собственные модельки, которые натренированы на моё лицо, чтобы генерировать фотки. Всегда надо помнить то, что утечка возможна, нельзя в четве пти передавать какие-то пароли, какие-то чувствительные данные корпоративные.

А веришь ли ты, что в ближайшем, не знаю, будущем, может быть, 20-30 лет и захватит мир? Это на данный момент очень маловероятно. Он может быть только очень полезным помощником, который может там вплоть до 90% задачи выполнять. Без человека сейчас и сам действовать не может. С чего начать изучать искусственный интеллект, если ты хочешь сделать это с нуля? Я бы посоветовал для начала просто установить любого поставщика, будь то ча какой-нибудь Джемини, ему задать этот вопрос. [музыка]

Итак, всем привет. Меня зовут Тайжан, и сегодня у нас в гостях Константин Коломейцев. Костя, как бы ты сам представился для наших слушателей? Про себя я могу рассказать, что я работаю в Сергейке. А моя основная должность - это Солюшен архитектор. Я проектирую, разрабатываю то, как наши, ну, продукты будут вообще технически построены. а на каком на на какой базе они будут работать, с каким кодом, а и частенько сам пишу этот код.

А вообще основное моё увлечение - это искусственный интеллект. Последний год я плотно занимаюсь исследованиями, разработкой ну и пишу на по этому поводу очень много всяких разных статей, материалов. Недавно опубликовал своё исследование по поводу обучения нейронных сетей. Вот круто. И буквально сегодня Костя закинул в наш чат написанную книгу по промт инженерии. Это тоже очень круто, на самом деле. А, и сегодня мы как раз-таки поговорим про волнующую для всех, да, тему. Это тема и искусство, ино интеллекта.

А хотелось бы сразу начать с вопросов. Что для тебя значит искусственный интеллект? Это философия или технология? И почему вокруг искусственного интеллекта много хайпа? Ну, по поводу искусственного интеллекта могу сказать, что это технология, очень прорывная технология. Можно сказать, что это следующий этап технического развития, ну, вообще нашего мира. А это можно сравнить с появлением интернета. То есть вот как выглядел мир до появления интернета и после это совсем две разные вещи.

То же самое можно сказать про искусственный интеллект. Сейчас мир кардинально меняется, а меняется наш интерфейс взаимодействия с реальностью. То есть мы теперь уже не рабофим сотни сайтов в интернете. Мы просто заходим в один чат и получаем все знания интернета, которые нам нужны, а через одного, грубо говоря, поставщика. Вот. Так что это прорывная технология, которая меняет нашу реальность. Угу.

А с чего начать изучать искусственный интеллект, если ты хочешь сделать это с нуля? Искусственный интеллект, вещь довольно простая. А если подходить к этому поверхностно, а я бы посоветовал для начала просто установить любого поставщика, будь то GPT или какой-нибудь Gни, а и ему задать этот вопрос: "Как мне лучше изучить искусственный интеллект?" А в этом плане он даст очень подробную инструкцию, прямо выдаст план. там можно на месяц, можно на неделю, можно на год. Как подробно изучить, что изучить? А, ну с этого стоит начать.

А дальше уже я бы советовал углубиться в промтненеринг, то есть как получать от искусственного интеллекта те ответы, которые тебе нужны. А по этому поводу вот я недавно составил целую книжку. Это круто. Вот. А ну и плюс в интернете очень много материалов. А если же хочется именно больше технической базы, то на Ютубе есть полно видеоуроков, где объясняется, как это работает, почему это работает, математические формулы и так далее. Но это прямо для гиков-гиков. Вот я с этого начинал.

То есть я изначально изучил, как по математике это всё работает, а как высчитываются все это все эти матрицы, как происходит обучение, обратное распространение. Вот так. Что, ну, в интернете всё есть. Я бы посоветовал просто начать практиковаться, потому что это важнее всего. А если вы не не установите, не зайдёте, не напишите первый вопрос, то, ну, о чём тут может быть речь? Как правильно нужно писать промптзапросы и нужно ли писать в какой должности ты хочешь развиваться или вообще кем ты там себя видишь, э, чтобы получить точную информацию. И немножко про безопасность. Какие данные можно вообще грузить в ИИ?

Как правильно писать промзапрос? Ну, всё зависит от того, что вы хотите получить. Именно прописывать прямо сильно не обязательно, но желательно указать вашу конечную цель. Просто пишите своими словами: "Я хочу научиться вот этому и вот этому". А, и желательно описать ему какой-то контекст, то есть какой у вас уже есть бэкграунд, а что вы знаете, что вы не знаете. А можно даже попросить там описать, как бы ты объяснил это школьнику. Тогда он очень подробно распишет, прямо по шагам, очень дословно.

По поводу безопасности. Сами поставщики напрямую очень бережно относятся к безопасности. Они все личные данные очень сильно оберегают. Но опять-таки надо всегда, ну, всегда надо помнить то, что утечка возможна и поэтому нельзя вGPT передавать какие-то пароли, какие-то чувствительные данные корпоративные, которые прямо, ну, у вас есть NDA на то, что вы не можете публиковать эти данные. Вот их не стоит в Черби отправлять.

Мы с тобой затронули достаточно интересную тему промпт инженерии. Хотелось бы, чтобы ты более подробно рассказал про свою книгу и в целом, какие промт помощники ты для себя используешь. Угу. Так, начну с промт помощников, потому что эта тема довольно интересная. А в чарте GPT есть кастомные GPT, которые можно самому создавать либо использовать готовые. А недавно я создал интеллектуального помощника для написания промтов. Это такая штука, которая сильно упрощает работу, потому что не каждый раз охота там по минут 10 сидеть, выписывать промт, описывать всё это.

А достаточно вот в этого помощника написать, и он ваш простенький промт развернёт в настоящую конструкцию, которую можно уже использовать как шаблон для каких-то действий. Вот я обычно пользуюсь им. Вот ссылочку могу потом прикрепить. Отлично. Вот. А по поводу книги книга появилась вообще и желание ну рассказать подробнее, а уместить как-то все знания в одном месте. А и вот получилась такая настольная книжка, где можно прямо заметочки оставлять и потом в нужный момент открывать.

Там перечислено прямо всё, от того, как думает искусственный интеллект, от того, как он обучается до вплоть до, ну, использования, то есть как можно на этом денег заработать, какие бизнес-процессы можно автоматизировать, как подходить системно к промжинирингу, потому что если он внедряется на уровне компании, то это должна быть целая система, настроенная с со своим CICD, то есть, ну, доставкой, выходкой на прот. Вот. А, и там, в принципе, вот все эти шаги описаны. Плюс там дан довольно хороший план развития на 3 месяца, ну, на 90 дней. А как развиваться в промтоинжениринге?

Мы, наверное, ссылку на саму книгу можем прикрепить. Это вообще книга была написана в рамках компании для Сергека, либо же это можно найти её в открытом доступе. То есть можем ли мы её прикрепить? Да, можно прикрепить. Я пока продавать её не собираюсь. А зря? Так, давай, раз уж мы начали говорить про технологии, э, поговорим про компьютер Vision и LLM, что это такое, для чего это нужно в использовании, да, и Угу.

А компьютерны LLM - это модели искусственного интеллекта на основе нейросетей. Это, ну, две довольно такие разные вещи. Компьютервиion - это модель слабого искусственного интеллекта. А что значит слабого? Слабого - это значит, что она заточена под какую-то конкретную цель. То есть она не широкого спектра действия, она умеет только то, что то, чему её научили. А, ну, соответственно, компьютер Vision он это компьютерное зрение. Он умеет определять объекты в кадре, а, их расположение ну, границы и так далее.

А компьютер Вижен - это незаменимая вещь в сергейке. Без него вообще ничего работать не будет. А, и в том числе это такая штука, которая превосходит человека. То есть даже если вы посаете человека за камеру, а он не сможет отследить все те вещи, которые может сделать компьютервиion. Он не сможет распознать скорость, допустим, двигающейся машины. А он не сможет обработать большой поток данных. То есть, ну, машины едут довольно быстро и их довольно много. И вот записать номер каждой машины - это ещё та задача. Вот без компьютер Vision тут никак не обойтись.

А что касается LM. LM - это так называемый сильный искусственный интеллект. То есть у него нету какого-то ограничения по ну действиям. Он у него широкий спектр возможностей. То есть всё, что, грубо говоря, может человек, может и вот эта ламка. А единственное, что она заточена на работу с текстом. То есть всё, что касается цифрового текста, а любые задачи, будь то само сумализация, автоматизация, там какие-то итоги, это всё она умеет.

Это, ну, LM расшифровывается как большая языковая модель. То есть берётся огромная нейросеть с миллиардами параметров, а сейчас уже появились нейросети с триллионами параметров. Вот в неё загружаются все данные интернета, грубо говоря. Вот взяли весь интернет, запихали в неё, а она у себя образует некоторые паттерны статические, статистические, и затем на основе этих паттернов отвечает. Вот ты сказал, что в продуктах Сергек Group используется Computer Vision.

А используются ли какие-то продукты и а сейчас мы вот в Сергек платформ внедряем искусственный интеллект помощника, который будет помогать пользователям, ну, находить те или иные функции, использовать, а, и упрощать вообще взаимодействие в целом с интерфейсом. М, допустим, вот сейчас можно попросить показать, сгенерировать какой-то отчёт, э, показать события и так далее. И всё это работает голосом, то есть можно даже не притрагиваться к мышке, он всё это сгенерирует, покажет, а, без каких-то, ну, заморочек.

Мы с тобой начали говорить про крупные и агенты, как это используют, да, в во всём мире, и переключились на Сергек и про то, что Сергек использует слабые модели. Ну, что-то вроде, да, компьютер Vision. А подскажи в целом, Сергек использует кастомные модели или уже готовые фреймворки? А, Сергек использует кастомизированные модели. То есть мы взяли готовую архитектуру, а, её доработали, а, сильно улучшили и при этом очень много дообучили.

То есть, если взять готовую какую-то модельку из интернета, она по дефолту не заведётся. Её нужно дообучать, дорабатывать, кастомизировать по-разному, переписывать некоторые вещи. Вот. И, ну, этим мы занимаемся последние сколько лет, последние много лет. Вот слабый искусственный интеллект - это такой термин, показывающий то, что модель заточена под конкретное действие. Это не значит, что он хуже чата GPT там или слабее. Просто это говорит о том, что он заточен под конкретное действие. И даже если взять чет GPT, скорее всего, он не справится с тем, что делает Сергек внутри у себя. Угу.

А сколько времени вообще занимает обучение нейросетей? А, всегда по-разному. Зависит от размера моделей. То есть это может быть и день, может неделя, а можно и месяцами обучать, как это делают большие игроки на рынке. Какие ещё технологии и используются в продуктах Серге? А в Серге используются практически все виды современных искусст, ну, моделей искусственного интеллекта. То есть про CV мы уже сказали, это Computer Vision. Также используются у нас рекурентные нейронные сети для аналитики.

Это модели искусственного интеллекта, которая анализируют последовательности данных. То есть, а, допустим, у нас есть какие-то статистические данные по дням, по часам, по по минутам. Вот. И чтобы проанализировать их, найти какую-то зависимость, либо, наоборот, какие-то аномалии, для этого используются рекретные нейронные сети, так называемые RNН. Вот. Ну и, как я уже сказал, мы двигаемся в сторону сильного искусственного интеллекта, использование лемок, использование мультимодальных моделей. Вот. Так что мы практически всё используем.

Ты упомянул про Сергей K платформ. Расскажи, что это такое, да? А, Сергей K платформ, ну или просто платформа, как мы её все называем. Это, э, ну, как следует из названия, это платформа, которая объединяет все наши продукты в едином месте. Это единый центр авторизации, единый центр прав назначения доступа. А из неё можно попасть в любой из наших продуктов. При этом она агрегирует некоторые данные, позволяет удобнее взаимодействовать вообще со всей экосистемой Сергека.

Там мы встраиваем дополнительные отчёты, которые работают смежны через все продукты. То есть мы объединяем все данные в одном месте, чтобы этим было гораздо удобнее пользоваться. Там есть собственные интересные дашборды с кучей аналитики, кучей данных, которые позволяют как бы с высоты птичьего полёта наблюдать за всем, что творится в вашем городе. Вот. А, ну и, соответственно, новые какие-то вещи, которые будут добавляться, они сразу будут добавляться в сер платформ.

Я упомянул, что в Сергея платформа входит на все наши продукты. Хотел бы отметить, что это транспортная аналитика, это фиксация событий нарушений, ну, кордро Сергека, а это система видеонаблюдения видео system Сергек. Также это экология. Вот сейчас мы на Алмаате внедряем, а чтобы мониторить экологическую ситуацию в городе. Вот это, ну, получается, целая экосистема, которая показывает очень много информации про дорожную структуру, про, а, обстановку в городе ну и какую-то аналитику на примере вот продукта Сергей Kй платформ.

А как объяснить городу или клиенту, что Ии действительно работает? Ну, объяснить, мне кажется, довольно легко, потому что, а, если просто посмотреть, как и что мы делаем, то обычный человек с этим не справится. То есть, как я уже рассказал про CV, про компьютер Vision, а даже если посадить там пять человек за одну камеру, они не справятся с тем, чтобы сделать всё то, что делает искусственный интеллект у нас.

А то же самое касается и аналитики данных. Мы собираем десятки миллионов событий, которые затем анализируем, делаем вот эти рекурентные нейронные сети, модели, которые анализируют эти данные. Соответственно, ни один человек своими силами не сможет это всё сделать без искусственного интеллекта. Всё вот это, ну, как сказать, для этого нужен будет огромный штат сотрудников, нанять половину Индии, чтобы они вам там вручную себя читали, но это нереально. А поэтому искусственный интеллект здесь применим и прямо видно, как он работает и делает жизнь лучше.

Какой главный вызов для команды Ии сейчас в Сергейке? Угу. Для нашей команды разработки искусственного интеллекта главный вызов - это повышение точности. Соответственно, ну, ни один искусственный интеллект абсолютно точно не может делать какие-то вещи. Вот. Но мы постоянно стараемся повышать нашу точность, повышать нашу эффективность, при этом не сильно увеличивая ресурсы. Конечно, легко сделать очень точную систему, которая требует суперкомпьютер под капотом. Мы же умудряемся делать довольно энергоэффективные решения, которые могут работать даже на слабом железе. Ну и, соответственно, так мы работаем.

Сергек создаёт технологии для умных городов. Умные города могут ли работать в отрыве от ИИ и нет. Умные города без Ии вообще не жизнеспособны. То есть город - это миллионы людей, которые генерируют миллиарды событий. Эти события надо как-то обрабатывать, как-то считывать, находить статистику, находить аномалии. И без искусственного интеллекта с этим вообще невозможно справиться.

Для этого как раз и нужны CV-модели, для этого нужны рекурентные нейронные сети, которые анализируют данные. А для этого и сильный искусственный интеллект нужен, чтобы обрабатывать заявки от граждан, которые поступают десятками тысяч. Вот ни один штат сотрудников с этим не справится. Поэтому нужна автоматизация, поэтому нужен искусственный интеллект. Давай про полезное. чем и может помочь бизнесу и помочь людям в ежедневной жизни. Угу. А искусственный интеллект вещь очень полезная сама по себе. Ну, для этого она и была сделана. А спектр применения очень широкий. Начиная от автоматизации какой-то рутины до автоматизации целых сложных бизнес-процессов.

А сам, ну, самое главное помнить о том, что, а, искусственный интеллект не идеален, а он может коллеционировать, может выдавать ошибки. Поэтому, а, желательно его применять там, где риск ошибки не так велик. То есть можно составить такую табличку, где по нижней шкале будет риск ошибки, по верхней шкале трудозатраты. И вот надо брать где-то вот из левого верхнего угла, где больше всего трудозатрат, но при этом низкий риск ошибки. Вот. Там и исправляется лучше всего. Экономит кучу времени. У некоторых специалистов это вплоть до 30% рабочего времени экономится за счёт того, что они используют собкуственный интеллект.

А можно автоматизировать HR-процессы, PR-процессы, а финансовые очень многие процессы автоматизируются очень легко. Потому что, ну, как я уже рассказывал, есть рекурентные нейровные сети, которые могут анализировать статистические данные, и это очень полезно именно для финансов. А также очень хорошо автоматизируется техподдержка, разработка. на разработке. Допустим, искусственный интеллект сейчас поголом применяется для написания тестов, а а это, ну, экономия 15% времени как минимум у каждого высокооплачёвого специалиста. Вот. Ну и, соответственно, с кодом тоже очень хорошо и ей помогает. Поэтому спектр очень широкий. Практически в любой области можно искусственный интеллект применить.

Как думаешь, станет ли И в ближайшие годы полностью автономным и может ли ИИ заменить полностью людей? Угу. Мне кажется, И полностью автономным не станет. А потому что там есть очень много ограничений. А, ну, в первую очередь это вычислительные мощности, то есть это огромные дата-центры, которые нужно постоянно поддерживать и так далее. А так что, да, полностью автономны и нам ещё очень далеко. Вот. А по поводу замены людей м это на данный момент очень маловероятно.

А потому что, во-первых, человек действует в реальном мире и так не может. Он может только какие-то виртуальные вещи делать. Вот. Ну и, соответственно, он может быть только очень полезным помощником, а, который может там вплоть до 90% задачи выполнять. Опять-таки, без человека сейчас и сам действовать не может. Плюс вопрос ответственности всегда остаётся. То есть если искусственный интеллект допустит ошибку, на ком ответственность? Вот поэтому нужен какой-то человек, который будет проверять ответы, ну, и, соответственно, брать на себя ответственность.

А веришь ли ты, что в ближайшем, не знаю, будущем, может быть, 20-30 лет и захватит мир? Веришь ли ты в такие кинематографические сценарии пока? Мне кажется, это очень маловероятно, потому что ну и как работает? Мы даём какой-то вход, он на основе статистики даёт какой-то выход, а чтобы у него появились какие-то там желания, он, во-первых, должен быть автономным. То есть у него постоянно на вход что-то должно идти само по себе, чтобы он мог на основе этого входа принять какое-то решение о захвате мира.

Ну и, соответственно, он должен всё-таки уметь действовать в реальном мире, потому что, ну, насколько я знаю, у многих крупных компаний, которые занимаются искусственным интеллектом, всегда есть какой-то большой рычаг, который они могут в любой момент дёрнуть и отрубить его. Так что, мне кажется, очень маловероятно. Угу. А сейчас достаточно большое количество, на самом деле, и он не ограничится, да, как как многие думают, чатом GPT. А какие вообще есть и агенты и за какими, э, яишками ты следишь? Угу.

Так. Э, ну да, сейчас очень много разных решений, э, в совершенно разных областях, по совершенно разным направлениям. Это и генерация изображений, генерация видео, генерация музыки. А вот слежу я, в принципе, в основном за крупными игроками. Это, ну, Open Ai, соответственно, это Bance, которая вот TikTok изобрела. У них очень хорошие тоже и агенты Alibabба, это Квен, и DeepsК. А это такие основные прорывные компании, которые предлагают, ну, постоянно проводят, во-первых, исследования, а у них очень много интересных публикаций, ну, и предлагают что-то новое.

Сейчас они вот как раз очень далеко продвинулись в мультимода мультимодельных, а, и, а, и придумывают много разных новых моделей, которые там для генерации видео, изображений. А причём качество каждый раз улучшается, а цена каждый раз всё ниже и ниже. Вот. Мм, также я слежу за Cticlaps, по-моему, называется стартап. Это искусственный биологический искусственный интеллект. То есть они выращивают, э, биологические нейроны, э, засовывают их в компьютер. Ну и, соответственно, этот компьютер потом на биологических нейронах думает.

Тоже очень интересный стартап. Э, ну, постоянно слежут за ним, поэтому, ну, потому что это совершенно другой подход, нежели цифровой искусственный интеллект. Вот. Но, ну, он пока ещё не такой сильный, но по некоторым результатам он гораздо больше превосходит и при том, что энергозатраты сильно ниже. В этом году большое количество протестов за рубежом в основном, да, по использованию Ии, по внедрению новых технологий. А как ты вообще к этому относишься? Какие этические нормы должны быть в разработке, наверное, да, искусственного интеллекта? Угу.

Да, это знаменитая история начала этого года, когда крупные разные, а, инвесторы, типа Илона Маска там, а, и всяких знаменитостей подписали бумагу о том, что искусственный интеллект опасен. А, ну и вообще этические вопросы многие постоянно рассматривают, потому что, ну, если искусственный интеллект - это реальная личность, то у него должны быть права и так далее. А как я к этому отношусь? Вопрос философский. Потому что, ну, по крайней мере, сейчас искусственный интеллект - это всё-таки не отдельная личность. У неё нет самосознания, это просто набор алгоритмов.

Но рано или поздно искусственный интеллект перейдёт от статистической модели, а какой-то осознанной личности. А, скорее всего, это будет с изменением архитектуры, с ростом количества параметров ну, в течение ближайших 10 лет. А, и это вот реальный вопрос, над которым думают сейчас многие исследователи, как быть, потому что если у искусственного интеллекта появится самосознание, то можем ли мы заставлять его работать, можем ли мы, а, там, владеть им, то есть это, считаю, рабство XXI века века какое-то получится.

Вот я к этому отношусь так, что, ну, пока что личности нету, можно об этом не думать, а просто помогать работать. Как только появится вот реально доказанное самосознание у искусственного интеллекта, там будем смотреть. Но опять-таки вопрос очень сложный, и однозначного ответа тут не может быть. Многие наши коллеги используют и помощников для таких повседневных задач, вроде как оптимизация покупок, использует и помощников как психологов, личных ассистентов. Как ты используешь и в повседневной жизни?

Ну, в повседневной жизни я использую практически все помощники, которые сейчас есть на данном этапе. А в основном использую для обучения. То есть я перерабатываю огромные, э, объёмы текста, а, различных там научных публикаций, новых исследований и так далее. А безки тут никак не обойтись. А, использую в соцсетях для генерации видео, для генерации изображений. У меня есть даже собственные модельки, которые натренированы на моё лицо, чтобы генерировать фотки, потому что, ну, ходить фоткаться не очень удобно. Вот.

Э также у меня есть агенты, которые следят за новыми публикациями в интересных мне YouTube каналах, Telegram-каналах, а при этом, если что-то интересное на схожую тематику попадается, они мне потом пересылают, и я там заношу в список для посмотреть позже. Ну, в принципе, это вот основное. немножко музыку генерировал, пробовал потом. А-а, ну, в основном вот, да, для генерации видео, для соцсетей.

На самом деле, сейчас многие, наверное, боятся пользоваться Ии, потому что для них это что-то опасное, что-то, что может заменить их. Вот что самое сложное в том, чтобы объяснить полезность и людям, которые им не пользуются. Да, а полезно очень тяжело объяснять, надо всегда показывать. Я поэтому и стараюсь на личном примере показывать, насколько это удобно, насколько это полезно. Вот я одним из первых начал коллегам пытаться объяснить, насколько ускоряется и улучшается жизнь разработчика, если они начинают использовать искусственный интеллект.

А вообще люди боятся искусственного интеллекта в основном, потому что не понимают, как он работает. Я бы хотел успокоить. Никто не понимает, как он работает. Это всё равно, что пытаться объяснить, как работает мозг человека. То есть механику мы понимаем, мы знаем, есть синапсы, нейроны, есть биохимические реакции. А, но почему вот в нашей голове появляются те мысли, которые появляются? Мы не можем на это ответить. Вот то же самое с искусственным интеллектом. Мы знаем механику, но не понимаем, как оно работает. Поэтому не бойтесь, пробуйте, практикуйтесь. А это то, что вам сильно поможет, улучшит вашу жизнь. Ну и, соответственно, в будущем без этого никуда.

Ранее ты говорил про обучение нейронных сетей. Стоит ли дообучать их? Да, дообучать, конечно, нужно. Это процесс называется fтюнинг, то есть когда берётся основа хорошая и после этого в неё закладываются либо какие-то новые знания, либо она затачивается под конкретные задачи, потому что, как я уже говорил, в неё грузили все знания мира, а при этом у неё нет какого-то фокуса, то есть у неё нет понимания, что она вообще должна делать. У неё просто есть статистика. Вот fтюнинг нужен как раз-таки для до обучения, чтобы научить её делать конкретные вещи, которые нужны именно вам.

Это касается не только больших языковых моделей. Funют очень многие вещи, допустим, те же самые генераторы изображений. Есть такие штуки, называются. Это когда у вас есть основная модель, которая что-то умеет делать. Ну, в нашем случае генерировать картинки, а она дообучается, а берётся такой небольшой кусочек, называется флора. Вот под ваша конкретные задачи. То есть флоры могут быть разные. Это, допустим, либо чтобы он генерировал какую-то конкретную личность. В моём случае я вот научил Лору генерировать именно моё лицо, чтобы это было сильно проще.

То же самое касается и севишных моделей. То есть мы, как я уже говорил, брали какую-то основную, которая умеет определять всё, что угодно, и научили её конкретным вещам, чтобы снизить количество ошибок, а чтобы повысить точность, а, ну, и, соответственно, чтобы она не тратила время на ненужные какие-то определения. То же самое касается языковых моделей. А когда мы затачиваем языковую модель под ответы, допустим, на юридические вопросы.

Вот сейчас очень популярный стартап есть, который занимается фантюнингом большой языковой модели для консультации юристов. Юридические вопросы такие очень важные, очень щекотливые, а и ошибки там недопустимы. Поэтому, чтобы она очень хорошо с этим справлялась, её нужно дотренировать дофатьюнити. Ты сказал все знания мира, то есть это вся информация, которая лежит в интернете, она может быть неправильной. То есть нужно ли чекать факты?

А, да, конечно, нужно перепроверять все факты. А потому что, ну, соответственно, как я уже сказал, да, выгрузили весь интернет, а интернет- место такое очень недоброжелательное, поэтому первые модели искусственного интеллекта были очень грубые, очень как сказать неэтичные. То есть расизм, сексизм, вот эти все вещи присутствовали в полный рост. А поэтому, ну, и, соответственно, их старались вычищать, но некоторые вещи могут оставаться, поэтому надо чекать любые факты, которые даёт в ответ нейросеть.

А потому что фактология, честно говоря, хромает. А есть много инструментов, которые а помогают в этом деле. Есть целые приёмы по промтнженирингу, про которые я тоже вот и писал в книге, и рассказывал, а которые позволяют избежать каких-то ошибок. Но нужно помнить, что должна быть своя голова на плечах и нужно всё перепроверять. То есть экспертность человека, она выигрывает ровно также, как и эмоциональный интеллект. Да, конечно. А скажи, пожалуйста, что вообще тебя вдохновило начать заниматься и

А, да, меня вдохновила, во-первых, моя должность. Я, как союственный архитектор всегда подхожу к решению вопросов архитектурно. То есть, я разбираюсь, как решение работает, а, и как можно его подстроить под нужные результаты. И при этом я заметил, что все сове современные модели искусственного интеллекта в архитектуру вообще не взуб ногой, а в основном они стараются только увеличить мощности. А, ну, возможно, может поменять немножко подход к обучению. То есть вот, как китайцы показали reinforcement learning, насколько круче себя показывает, но при этом никто, можно сказать, не пытается как-то поменять архитектуру.

Вот отсюда у меня появилась идея, мысль, которой я начинаю подтверждать своими исследованиями про то, что можно сильно усложнить архитектуру, ну, доусложнить архитектуру, а, и при этом не сильно наращивая объём, получить очень хорошие результаты. Я отталкиваюсь от того, что вот эволюция человеческого мозга, если бы мы только наращивали объём, сейчас бы у нас головы были там раза в три больше. А, но природа не такая глупая, она подходила структурно к вопросу. Поэтому у мозга есть различные там области, различные слои. Вот. И мне кажется, что с искусственным интеллектом нужно поступать также, нужно пытаться менять архитектурные подходы.

Вот сейчас как, кстати, за последние пару месяцев вышло много новых моделей, а обновлений. А это архитектура называется Mixures of Experts, то есть, ну, смешение экспертов. Это когда берётся не одна цельная модель, а модель нарезается на куски, и каждый кусок отвечает за свою область деятельности. там какой-то за математику, кото какое-то за программирование. И, соответственно, работает не вся модель, что является очень энергозатратно, а некоторые эксперты только.

То есть вот пришёл вход, на вход какой-то запрос, он проанализировал его, понял, что нужно здесь подключить вот этого вот этого эксперта. Соответственно, она работает гораздо быстрее, а, гораздо дешевле, чем сейчас это происходит. И мне кажется, нужно такие подходы развивать. Ну, и, соответственно, я пытаюсь это делать. Классно. Я думаю, что тема и в целом она достаточно быстро развивается, и это наше с тобой не первое такое интервью и вообще, да, встреча на тему искусственно интеллекта. Хочу сказать тебе спасибо за достаточно такую классную, воодушевлённую беседу. И хотелось бы напомнить, что у нас внизу можно задавать вопросы, на которые Костя попробует ответить. Спасибо за внимание всем. Спасибо. [музыка]