Memorization vs Generalization: что действительно умеет языковая модель (TLM) на 2 160 параметров (v1.1.0)
Продолжая тему Крошечной Языковой Модели на Nodejs мы поймем где проходит граница ее возможностей. На примере Крошечной Языковой Модели (TLM) из 2 160 параметров мы проведём воспроизводимый эксперимент и увидим в цифрах: знакомый шаблон - 99,93%, перестановка токенов - 81,69%, неизвестная структура -?%.По следам обсуждения моего автограда на Node.js в ML-сообществе и отличного фидбека от инженеров на Hashnode (привет Ahmet Özel), я добавил в проект небольшое исследование границы между запоминанием и обобщением в версии 1.1.0.Я зафиксировал seed 42 и добавил финальную frozen evaluation из четырёх проверок:
Языковая Модель без магии: Крошечная Language Model на чистом Node.js
Схема Языковой МоделиEnglish | РусскийTokenization → embeddings → causal Transformer → LM head → softmax → loss → backpropagation. Без TensorFlow, без PyTorch, и без hidden autograd.
Perceptron: Как работала самая первая нейросеть в истории?
Сегодня мы расскажем с чего началась эпоха современного ИИ. Это произошло через год после полета первого искусственного спутника Земли и имело не менее колоссальное значение для человечества.
Вспомнить всё. Спектр весов нейросети
В данной публикации попробуем сформировать простейшую нейросеть. Будем использовать Colab. Данный выбор также хорош тем, что то, что позволено Юpyтеру не позволено быку. Иметь локальные вычислительные мощности. В принципе довольно неплохая инфраструктура для проверки базовых алгоритмов налету. Если есть что то подобное на других платформах или можно сделать с использованием иных агентов, пожалуйста, прокомментируйте.
На шаг ближе к Скайнету: научились ли нейросети умножать?
Занимаясь созданием систем искусственного интеллекта, не перестаешь удивляться, из каких порой «костылей» состоят настоящие чудеса прогресса. Например, знаете ли вы, что даже самые современные нейросети фундаментально не умеют перемножать два числа? Они не считают в привычном нам смысле, а скорее запоминают и аппроксимируют ответы.Как так вышло, что ИИ пишет код и сочиняет стихи, но буксует на таблице умножения? Давайте разбираться.Фундаментальная проблема: сложение вместо умножения
Я делаю презентации для кино 3 года и вот почему ChatGPT их не напишет
Эту историю для моего блога рассказала Ольга КиверЯ работала продюсером сериалов на ТНТ 17 лет — прошла путь от ассистента генерального продюсера до руководителя отдела производства сериалов. За это время я видела сотни историй — невероятных, живых, настоящих. И столько же презентаций к ним, от которых у меня буквально лилась кровь из глаз.Авторы приходили с сильным материалом. Сценарий цеплял, персонажи дышали, конфликт был настоящим. А потом открывалась презентация — и всё тонуло в безликих слайдах. Текст без позиции, картинки из фотостока, структура как у школьного реферата.
Я 17 лет была продюсером на ТНТ, а потом пришла нейросеть
Эту историю для моего блога рассказала Ольга КиверЯ работала продюсером сериалов на ТНТ 17 лет — прошла путь от ассистента генерального продюсера до руководителя отдела производства сериалов. За это время я видела сотни историй — невероятных, живых, настоящих. И столько же презентаций к ним, от которых у меня буквально лилась кровь из глаз.Авторы приходили с сильным материалом. Сценарий цеплял, персонажи дышали, конфликт был настоящим. А потом открывалась презентация — и всё тонуло в безликих слайдах. Текст без позиции, картинки из фотостока, структура как у школьного реферата.
Почему делать презентации через нейросеть — плохая идея
Эту историю для моего блога рассказал Павел СкворцовЯ занимаюсь презентациями четыре года. Работаю в государственном учреждении, которое занимается спецпроектами. Там делаю презентации под конкретные мероприятия — для внутренних показов, отчётов, анонсов. Параллельно беру фриланс: коммерческие предложения, представления проектов, обучаю этому других.Раньше, когда ко мне приходил заказчик из незнакомой отрасли, подготовка к работе могла занимать неделю. Нужно было самому разобраться в теме, выяснить, как устроен бизнес клиента, понять, что вообще показывать и в какой последовательности.
ChatGPT нарисует презентацию. Переделывать будете сами
Эту историю для моего блога рассказал Павел СкворцовЯ занимаюсь презентациями четыре года. Работаю в государственном учреждении, которое занимается спецпроектами. Там делаю презентации под конкретные мероприятия — для внутренних показов, отчётов, анонсов. Параллельно беру фриланс: коммерческие предложения, представления проектов, обучаю этому других.Раньше, когда ко мне приходил заказчик из незнакомой отрасли, подготовка к работе могла занимать неделю. Нужно было самому разобраться в теме, выяснить, как устроен бизнес клиента, понять, что вообще показывать и в какой последовательности.
Нейросеть Kling ai Motion Control для создания видео: как пользоваться на русском языке
Нейросеть Kling и ее обновление
