Считаем количество токенов для LLM в исходниках ядра Linux и не только…
Эта статья про новое расширение ахритектуры трансформеров – Titan от Google –, позволяющее расширить рамки LLM до 2 млн токенов, побудила поинтересоваться, сколько токенов, пригодных для LLM, содержат исходники колоссального софта. Какой открытый софт будем „препарировать“:MySQLVS Code
С++ — это настоящий кайфǃ
Я хочу, чтобы вы задали себе один вопрос и честно на него ответили. Когда в последний раз вы получали настоящее удовольствие от программирования? Оглядываясь назад, я понимаю, что не испытывал подобных ощущений, наверное… уже лет десять. Удовольствия у меня не было ни от JavaScript, ни от Python, ни от Ruby или C — ни от чего. Когда я говорю «удовольствие» — я имею в виду ощущения человека, которого во время работы над неким проектом переполняет искренний восторг. Этот человек постоянно ловит себя на такой мысли: «Ох, ну какая ж круть. Поверить не могу, что моя безумная идея и правда сработала!».
Осторожно, работают люди
После прошлой статьи про "испанских синьор-программистов"
Гендиректор Replit о прорывах ИИ: «Мы больше не заботимся о профессиональных кодерах»
Гендиректор стартапа интегрированной онлайн-среды разработки Replit Амджад Масад рассказал, почему он сократил численность персонала сразу вдвое в 2024 году. Топ-менеджер объяснил реструктуризацию прорывами в области искусственного интеллекта.
Свой стартап на LLM и агентах — это просто! (нет). Или почему технология не всегда так важна
В эпоху повального увлечения AI кажется, что достаточно взять OpenAI API, найти проблему, написать сложненький промпт и готово — ваш следующий единорог уже на подходе. Однако реальность, как всегда, оказывается намного сложнее и это мираж технологической простоты. В этой статье — рассуждения о том, почему базовая технология или стек целиком — это лишь верхушка айсберга в создании успешного продукта, и почему даже имея доступ к самым передовым технологиям, создать по-настоящему ценный продукт остается сложной задачей.
Разработка софта через описание: опыты с современными LLM
С появлением в доступности LLM, которые пристойно пишут код, разработчики поделились на два лагеря. Основные тезисы таковы:Первые считают, что LLM пишут код плохо, не умеют и не могут в специфику предметных областей и архитектуру кода, а быстрота генерации кода компенсируется длительной отладкой из-за допускаемых ошибок. И даже если код рабочий, то он неоптимален, и из-за специфики того, как работают LLM, всегда является средним, т.к. большинство кода в обучающей выборке именно такое.
Game++. String interning
«String interning», иногда это называют «пулом строк» — это оптимизация (https://en.wikipedia.org/wiki/String_interning), при которой хранится только одна копия строки, независимо от того, сколько раз программа ссылается на нее. Среди других оптимизаций по работе со строками (SWAR, SIMD-cтроки, immutable strings, StrHash, Rope string, и немного других), часть которых была описана тут
Программирование для не программиста или как разрушалась мечта свалить всё на ИИ
Однажды, путешествуя по глухим вьетнамским деревушкам, я попросил девушку выжать мне стаканчик тростникового сока. Для объяснения я воспользовался гугл‑переводчиком. По ее глазам я понял, что речь в моей просьбе если шла о тростнике, то о каком‑то не том. Пришлось оперативно существенно упростить послание переведя сначала с русского на английский, а потом с английского на вьетнамский. Выполнив, по‑сути, тот же алгоритм, что делал гугл, когда один/оба из языков не английский.
Новых вопросов от пользователей на платформе Stack Overflow становится всё меньше с каждым месяцем из-за ChatGPT
По информации разработчика Теодора Смита, новых вопросов от пользователей на платформе Stack Overflow становится всё меньше с каждым месяцем из-за ChatGPT. Популярному ресурсу предрекают забвение через год.
LLM это не AI
Ответы LLM недетерминированны – можно задать один и тот же вопрос несколько раз и каждый раз получать разные ответы.Например, стандартный вопрос из тестов на IQ:* Start with a full cup of black coffee (no milk) and drink one-third of it. * Now pour into the cup an amount of milk equal to the coffee you have just drunk, and stir well. * Now drink a further half of the resultant mixture. * Now pour into the cup a further amount of milk equal to the mixture you have just drunk and stir well again. * Now drink one-sixth of the resultant mixture. * Now pour into the cup a further amount of milk equal to the mixture you have just drunk, stir well, and finally, drink the whole cup of liquid. Have you drunk more milk or more coffee in total? Ответ:
