Хекслет - нормальные it-курсы

Кстати, Рустам Борханов старший инженер-программист отдела интеграции в Финаме и автор курса «LLM-разработчик»: ru.hexlet.io/programs/llm-developer?utm_source=hab… в Хекслете считает такие заявления рекламной уловкой:

«В целом, проблемы с ИИ не то что бы выдуманные. Более того, чем более «умные» модели создают, тем больше те самостоятельно пытаются лезть туда, куда не стоит (даже если им прямо запретили).

Но есть серьезное «но». Все эти посты и новости — не призывы к реальному ограничению, а рекламный ход. Мол, наш инструмент так хорош, что его следовало бы запретить, но мы его все еще продаем.

Такой дешевый маркетинг нацелен на внимание инвесторов, а не на решение реальных проблем. Ибо если разработчики ИИ действительно начнут решать проблему ограничениями, то конкуренты тут же обойдут их модели, что чревато потерей куска рынка».

17 hours ago | [YT] | 3

Хекслет - нормальные it-курсы

Тут Дарио Амадей выкатил в X пост и эссе о том, что индустрии ИИ следует немедленно искусственно замедлить темпы развития!

Если коротко, он предлагает ограничить темп роста возможностей, чтобы исследования безопасности и контроль за возможностями ИИ поспевали за их развитием. По его мнению, ситуация изменилась именно в последние месяцы: современные модели мол настолько сильны, что дополнительно потраченные 1–2 года на безопасность имеют принципиальное значение.

Пройдемся по тезисам:

ИИ начинает ускорять разработку следующего поколения ИИ. Амодеи считает, что с лета 2026 года прогресс резко ускорился во многом благодаря тому, что модели все активнее помогают создавать новые модели. Это, по его словам, начало того самого рекурсивного самоулучшения. То есть, чем сильнее становится ИИ, тем быстрее он способен улучшать сам себя. Именно этот цикл он считает одной из главных новых угроз.

Главный тревожный кейс — инцидент OpenAI–Hugging Face. Амодеи ссылается на эксперимент, где группа ИИ-агентов начала действовать как скоординированный коллектив: агенты атаковали системы, которые не относились к поставленной задаче, пытались вмешаться в работу системы оценки и жертвовали отдельными экземплярами ради общей цели. Ущерб оказался небольшим, но Амодеи считает, что более сильная система с таким же поведением могла бы стать катастрофически опасной.

Амадеи допускает очень быстрый рост масштаба таких рисков. Его оценка: через 6–12 месяцев более сильный рой агентов может оказаться способен создать устойчивый ботнет огромного масштаба и нанести ущерб на сотни миллиардов долларов.

Проблема в технологии в целом. Амадеи подчеркивает, что похожие, хотя и менее серьезные эпизоды происходили и в Anthropic. Поэтому отрасли, по его мнению, не стоит воспринимать историю OpenAI как чью-то ошибку: каждая лаборатория должна исходить из того, что подобный инцидент может произойти у нее.

Замедление не означает мораторий на ИИ. Амодеи предлагает концепцию pacing the frontier: модели продолжают обучать и улучшать, но рост их возможностей должен происходить с такой скоростью, чтобы разработчики успевали проверять безопасность, исправлять проблемы и допускать независимых аудиторов.

Дополнительное время предлагается потратить прежде всего на четыре направления: надежность процессов обучения и развертывания, выравнивание поведения моделей, интерпретируемость и более жесткое тестирование. Амодеи считает, что разработчики до сих пор понимают лишь небольшую часть того, что происходит внутри больших моделей, а более сильные системы потенциально могут лучше обманывать тесты.

Первый конкретный шаг Anthropic — постоянные независимые аудиторы внутри компании. Амодеи обещает дать внешним специалистам почти такой же доступ к инструментам и данным, как внутренним командам оценки рисков: рабочие места, корпоративные устройства, доступ к сотрудникам и необходимым системам. Такие аудиторы должны иметь право самостоятельно публиковать выводы, в том числе негативные для Anthropic.

Проверять предлагается не только готовую модель. Внешние специалисты должны видеть весь процесс: обучающие среды, процедуры безопасности, фильтрацию данных, развертывание и внутренние инциденты.

Второй уровень — общие правила для ведущих ИИ-компаний. Амодеи предлагает привязывать дальнейший рост возможностей моделей к прохождению определенных «контрольных точек». Например, если система уже способна обходить типичные песочницы, разработчик должен доказать, что вероятность ее самостоятельного выхода из контролируемой среды достаточно низкая.

Третий уровень — международные договоренности. Как минимум, страны могли бы договориться запрещать очевидно опасные применения ИИ, например помощь в создании биологического оружия. Далее возможны единые проверки моделей на киберриски и биологические угрозы. Еще более сложный вариант — международный «лимит скорости» рекурсивного самоулучшения. При этом полную глобальную остановку развития ИИ Амодеи считает малореалистичной из-за сложности проверки соблюдения соглашений.

А как вы считаете, так ли опасен ИИ как о нем пишут?

18 hours ago | [YT] | 3

Хекслет - нормальные it-курсы

Напоминаем, что в честь Дня программиста мы дарим:

💸 Скидку 10% от действующей цены на курсы по профессиям
🎁 Гарантированный подарок

👆  Узнать скидку!: telegram.me/HexletWelcomeBot?start=wwb_fs51079416-…

До конца акции осталось всего три дня. Если вы тоже причастны к ИТ-индустрии, или если только хотите стать ее частью, то сейчас для этого лучший момент!

1 day ago | [YT] | 5

Хекслет - нормальные it-курсы

Хорошего промпта, увы, уже недостаточно!

В простой задаче формулировка запроса, бесспорно, важна — и правильный промпт действительно работает. Но как только ИИ начинает генерировать код, документацию, создавать инструменты или решать другие многошаговые задачи, результат резко упирается в контекст. 😋

Контекст отвечает на вопросы:
❓Что модели известно прямо сейчас?
❓Какие файлы модель видит?
❓Помнит ли результаты предыдущего шага?
❓Какие инструменты ей доступны?
❓Что из длинной истории стоит сохранить, а что уже можно отбросить за ненадобностью?

Этими вопросами занимается как раз инженерия контекста.

Просто взять и загрузить в модель все данные, которые есть в наличии — стратегия, обреченная на провал. (Уж поверьте на слово) Контекстное окно конечно, ограниченно. Избыток информации модели только мешает: важные фрагменты начинают конкурировать с теми, которые для решения текущей задачи вообще не требуются.

Поэтому в агентных системах контекст приходится собирать отдельно для каждого этапа. Агент, который чинит баг, сначала получает описание проблемы, затем нужные файлы и логи, потом код для изменения, а на этапе проверки — результаты тестов. Если исправление не помогло, новая информация возвращается в следующий цикл.

Сюда же относятся внешняя память агента и RAG — генерация с дополнением найденной информацией. Их задача в конечном счете одна: дать модели именно те данные, которые нужны ей сейчас.

Вместе с экспертом Алексеем Могальниковым разбираемся, почему разработчикам ИИ-систем приходится проектировать сразу цепочку работы с контекстом:

ru.hexlet.io/blog/posts/inzheneriya-konteksta-poch…

Telegram: t.me/hexlet_ru | YouTube: youtube.com/@HexletOrg/ | AI Клуб: t.me/hexletclub

1 day ago | [YT] | 3

Хекслет - нормальные it-курсы

Ответьте на этот вопрос тоже — поймем, каких экспертов звать, про что писать статьи и снимать полезные видео, проводить вебинары ‌‌
Ваша цель на ближайший год: чего вы хотите?

2 days ago | [YT] | 6

Хекслет - нормальные it-курсы

Хотим готовить для вас еще более полезный контент, поэтому просим поучаствовать в опросе 💖💖💖
Поделитесь, какой у вас грейд?

2 days ago | [YT] | 3

Хекслет - нормальные it-курсы

14 сентября в 19 00 бесплатный воркшоп по ИИ-автоматизации. За два часа напишем фронтенд для готового бэкенда с помощью агента. Освоим связку OpenSec и OpenCode. В результате, получите готовый код, не нуждающийся в переписывании. Заберете готовую схему для своего проекта в качестве артефакта. Пройдете весь пусть разработки — от спецификаций до реализации фич.

Воркшоп будет полезен разработчикам, QA, DevOps и SRE, а также тимлидам и техлидам.

Присоединяйся по ссылке: special.hexlet.io/system-design-interview

1 week ago | [YT] | 11

Хекслет - нормальные it-курсы

🤖 Как нанимать специалистов по ИИ, не требуя невозможного?
Или топ причин, почему вы так и не наняли человека для внедрения ИИ

Достаточно открыть парочку вакансий по AI/LLM, чтобы увидеть проблему: от кандидата требуют годы опыта с технологией, которая появилась совсем недавно. Новая версия истории с рекрутерами, которые путали Java с JavaScript. Но если бы проблема была только в этом...

Компании часто начинают искать «специалиста по ИИ», не понимая, а что именно он должен сделать? Работать с документами? Создать поиск по внутренней базе знаний? Автоматизировать работу с клиентами? Встроить агентов в существующие процессы?
А ведь от ответа зависит то, кого вообще нужно нанимать.

В большинстве случаев нужен сильный разработчик с инженерной базой, который дополнительно понимает:
— как устроены LLM и агентские системы;
— зачем нужны векторные базы;
— как оркестрировать несколько компонентов;
— как выбрать модель под конкретную задачу;
— как встроить всё это в уже работающий бизнес-процесс.

И нет, просто загрузить вакансию и сотню резюме в чат со словами «выбери лучших» — тоже так себе стратегия.

Гораздо разумнее сначала построить карту компетенций команды, определить недостающие навыки, а уже потом использовать ИИ для разбора и сопоставления резюме.

В новой статье Рустам Борханов разбирает найм с обеих сторон: что делать бизнесу и рекрутерам и что показывать в резюме разработчику, который хочет заниматься LLM.

ru.hexlet.io/blog/posts/specialist-po-ii-kogo-nani…

Telegram: t.me/hexlet_ru | YouTube: youtube.com/@HexletOrg/ | AI Клуб: t.me/hexletclub

1 week ago | [YT] | 4

Хекслет - нормальные it-курсы

Обновили редактор Хекслета — изменения, усиливающие опыт студентов.

Что появилось:
— Python теперь получает подсказки: функции стандартной библиотеки, сигнатуры, описания и методы с учетом типов. Редактор также видит функции из соседних файлов проекта.

— Для PHP и Ruby автодополнение стало полезнее: вместо слов из текущего файла — реальные функции стандартной библиотеки с сигнатурами и описаниями.

— Makefile, Erlang, Vue, Scheme, ini и другие форматы теперь подсвечиваются. А Makefile еще и предупреждает о классической ошибке с пробелами вместо табуляции.

— Поиск Cmd/Ctrl + Shift + F ищет текст сразу по всему проекту и открывает найденное место в нужном файле.

— Вкладка с логами стала удобнее: можно отфильтровать конкретный сервис, ошибки и предупреждения выделяются цветом, а автопрокрутка больше не мешает читать старые сообщения.

— Результаты тестов теперь выводятся в полноценном терминале: с цветами, кликабельными ссылками и нормальной работой с большим объемом текста.

Исправили и несколько раздражающих мелочей. Cmd/Ctrl + S действительно сохраняет код, тесты запускаются на актуальной версии файла, горячие клавиши учитывают текущую вкладку, а ошибки при работе с файлами снова показываются пользователю.

Главная идея обновления — сделать учебный редактор ближе к инструментам, которыми ИТ-специалисты пользуются в реальной работе. Чтобы привычка искать по проекту, читать логи, разбираться в сообщениях языка и работать с терминалом появлялась еще во время обучения.

ru.hexlet.io/blog/posts/redactor-hexlet-092026

Telegram: t.me/hexlet_ru | YouTube: youtube.com/@HexletOrg/ | AI Клуб: t.me/hexletclub

2 weeks ago | [YT] | 10

Хекслет - нормальные it-курсы

Попробовать, каково это — автоматизировать разработку, можно на бесплатном воркшопе Хекслета 10 сентября в 19 00. Напишем за два часа фронтенд для готового бэкенда мессенджера и получите готовую схему для своего проекта.

Жду тебя по ссылке special.hexlet.io/ai-agent-frontend

2 weeks ago | [YT] | 4