Локальные языковые модели. Генерируем текст на своем компьютере

Локальные языковые модели. Генерируем текст на своем компьютере

Для подписчиковКогда слышишь про генерацию, первыми в голову приходят картинки — от сюрреалистичных шедевров до аниме‑клубнички. Но генерировать можно не только пиксели, но и слова. Сегодня мы разберемся, как запустить языковую модель локально, на собственном железе, какую из них выбрать — и для чего все это может пригодиться....
21.06.2025 [10:15]
Источник: xakep.ru  
Рубрика: «Наука и Технологии»   Поделиться: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Lumina 2 и HiDream. Тестируем новые модели для создания картинок на своем компьютереLumina 2 и HiDream. Тестируем новые модели для создания картинок на своем компьютере Для подписчиковВ последние месяцы новые модели генеративных ИИ стали появляться с завидной регулярностью. Большинство таких моделей — проприетарные, ...

ChatGPT для macOS хранил всю переписку на компьютере как обычный текстChatGPT для macOS хранил всю переписку на компьютере как обычный текст Исследователь безопасности Педро Хосе Перейра Виейто рассказал об уязвимости в приложении бота ChatGPT для macOS, которая позволяла с лёгкостью вскры ...

OpenAI предложила запретить языковые модели DeepSeek в СШАOpenAI предложила запретить языковые модели DeepSeek в США Как это часто бывает с передовыми для Китая технологиями, разработки DeepSeek быстро нашли недоброжелателей за его пределами. Конкурирующая американс ...

Сбер и Сибур внедрят большие языковые модели в промышленностьСбер и "Сибур" внедрят большие языковые модели в промышленность Сбер и "Сибур" займутся внедрением больших языковых моделей в промышленность для повышения производительности и конкурентоспособности, сообщает пресс ...

Учёные из Дармштадта и Бата: большие языковые модели не опасныУчёные из Дармштадта и Бата: большие языковые модели не опасны Новое исследование, проведенное группой учёных из Технического университета Дармштадта под руководством Ирины Гуревич и Университета Бата под руковод ...

Большие языковые модели можно оптимизировать до 15% без потери качестваБольшие языковые модели можно оптимизировать до 15% без потери качества Ученые Сбербанка, лаборатории Fusion Brain Института AIRI и «Сколтеха» обнаружили принципиально новое свойство больших... ...

DeepSeek научилась тренировать языковые ИИ-модели без оглядки на ограничения по скорости памятиDeepSeek научилась тренировать языковые ИИ-модели без оглядки на ограничения по скорости памяти Как отмечалось недавно, пропускная способность памяти, используемой в инфраструктуре ИИ, становится одним из серьёзных ограничителей дальнейшего рост ...

Большие языковые модели испытывают трудности с координацией в социальных и кооперативных играхБольшие языковые модели испытывают трудности с координацией в социальных и кооперативных играх Большие языковые модели (LLM), такие как модель, лежащая в основе функционирования популярной диалоговой платформы ChatGPT, в настоящее время широко ...

Советы от деда: почему большие языковые модели не всегда годятся для решения задачиСоветы от «деда»: почему большие языковые модели не всегда годятся для решения задачи Выход ChatGPT в конце 2022 года стимулировал бизнес к внедрению искусственного интеллекта для принятия решений на основе данных. Это событие также сд ...

Большие языковые ИИ-модели не могут справиться с подсчётом букв в слове клубника на английскомБольшие языковые ИИ-модели не могут справиться с подсчётом букв в слове «клубника» на английском Несмотря на впечатляющие возможности больших языковых моделей (LLM), таких как GPT-4o и Claude, в написании эссе и решении уравнений за считанные сек ...

Ученые Сбера выяснили, что большие языковые модели можно оптимизировать до 15% без потери качестваУченые Сбера выяснили, что большие языковые модели можно оптимизировать до 15% без потери качества Ученые Сбера, лаборатории Fusion Brain Института AIRI и Сколтеха обнаружили принципиально новое свойство больших языковых моделей и научились контрол ...

Alibaba выпустила математические языковые модели Qwen2-Math, которые лучше аналогов от OpenAI и GoogleAlibaba выпустила математические языковые модели Qwen2-Math, которые лучше аналогов от OpenAI и Google Alibaba Group Holding продолжает активно работать в сфере искусственного интеллекта. На этой неделе гигант электронной коммерции выпустил несколько б ...

Эксперты группы ЛАНИТ: Большие языковые модели не просто автоматизируют существующие процессы, а создают новые возможности для бизнесаЭксперты группы ЛАНИТ: «Большие языковые модели не просто автоматизируют существующие процессы, а создают новые возможности для бизнеса» В числе проектов группы ЛАНИТ — интеллектуальная система «ИИ-аналитик», которая помогает ускорять отдельные фазы цикла разработки ПО в 5-10 раз; ИИ-с ...

Microsoft выпустила первые собственные ИИ-модели: одна генерирует речь, а другая  текстMicrosoft выпустила первые собственные ИИ-модели: одна генерирует речь, а другая — текст До сих пор Microsoft в значительной степени полагалась на модели искусственного интеллекта компании OpenAI. Каждый раз, когда OpenAI представляла сво ...

Как и зачем чистить вентиляторы в компьютереКак и зачем чистить вентиляторы в компьютере? Вентиляторы — одни из самых заметных компонентов в любой десктоп системе. Особенно, если они оборудованы яркой RGB-подсветкой. Помимо эстетики у проп ...

Работу GTA V сравнили на компьютере с DDR4 и DDR5Работу GTA V сравнили на компьютере с DDR4 и DDR5 На YouTube-канале Odin Hardware узнали, какой средний FPS будет в игре GTA V с DDR4 и DDR5. GTA V Online запускалась в Full HD с пресетом Very High. ...

Сбер упростил вход в свое приложение на компьютереСбер упростил вход в свое приложение на компьютере Сайт Сбербанка, который используется клиентами для доступа к своим банковским счетам и услугам, обновил свою главную страницу, чтобы упростить процес ...

Выпущена простейшая утилита для получения подробной информации о компьютереВыпущена простейшая утилита для получения подробной информации о компьютере Разработчики NWinfo обновили свою утилиту до версии 1.0.5. Она стала ещё легче и удобнее, и теперь позволяет на одном экране выводить подробности о х ...

Брянские энергетики оперативно устраняют локальные нарушения электроснабженияБрянские энергетики оперативно устраняют локальные нарушения электроснабжения Напомним, в ночь на 22 ноября Брянскую область накрыл мощный снегопад. Энергетики филиала «Россети Центр» − «Брянскэнерго» ликвидируют локальные техн ...

Уязвимость в web-браузерах, позволяющая атаковать локальные сервисы через IP 0.0.0.0Уязвимость в web-браузерах, позволяющая атаковать локальные сервисы через IP 0.0.0.0 Компания Oligo Security опубликовала информацию об уязвимости, затрагивающей Chrome, Firefox и Safari, и позволяющей обойти ограничение доступа к сет ...

В Новороссийске при падении подавленных БПЛА возникли локальные возгоранияВ Новороссийске при падении подавленных БПЛА возникли локальные возгорания Российская система противовоздушной обороны (ПВО) ночью 17 мая подавила более десяти беспилотных летальных аппаратов (БПЛА) над территорией Новоросси ...

Microsoft исправила баг, позволявший создавать локальные учётные записи в Windows 11Microsoft исправила баг, позволявший создавать локальные учётные записи в Windows 11 Многие пользователи Windows 11 предпочитают использовать локальные учётные записи, несмотря на то, что в процессе настройки операционной системы пред ...

Альфа-банк разместил локальные облигации на $168,5 млн, заместив 48,1% евробондов-2031Альфа-банк разместил локальные облигации на $168,5 млн, заместив 48,1% евробондов-2031 Альфа-банк разместил локальные облигации на $168,5 млн в рамках замещения субординированных еврооблигаций с погашением в октябре 2031 года, сообщила ...

Стратегия, которая превращает независимые театры в локальные культурные ориентирыСтратегия, которая превращает независимые театры в локальные культурные ориентиры Административный директор и со-основатель "Полупустого театра" Егор Годионенко рассказывает, как прозрачная экономика, сильные партнёрства и дисципли ...

Microsoft удаляет руководство по переходу на локальные учетные записи WindowsMicrosoft удаляет руководство по переходу на локальные учетные записи Windows Знаете ли вы, что вполне возможно использовать Windows 11 только с локальной учетной записью, как это работало еще тогда, когда компьютеры еще исполь ...

Облако или локальные серверы: какое решение выбрать для вашего бизнесаОблако или локальные серверы: какое решение выбрать для вашего бизнеса? У бизнеса в определенный момент возникает необходимость объединить сотрудников в общей рабочей среде, чтобы улучшить взаимодействие. Есть два решения ...

16-ядерный Core Ultra 7 155H и 32 ГБ памяти LPDDR5-6400 в одноплатном компьютере. Представлен мощный AAEON UP Xtreme i1416-ядерный Core Ultra 7 155H и 32 ГБ памяти LPDDR5-6400 в одноплатном компьютере. Представлен мощный AAEON UP Xtreme i14 AAEON Technology представила очень мощный одноплатный компьютер. Правда, и дешевым его назвать сложно: в базовой версии с 14-ядерным Core Ultra 5 125 ...

Проблематика и языковые особенности журналистских публикаций Веры Инбер и Ильи Эренбурга во время Великой Отечественной войныПроблематика и языковые особенности журналистских публикаций Веры Инбер и Ильи Эренбурга во время Великой Отечественной войны Во времена тяжелых испытаний Великой Отечественной войны советская литература получила мощный импульс развития благодаря творчеству писателей, выступ ...

ИИ распознает текст, набранный на тачскринеИИ распознает текст, набранный на тачскрине Алгоритм будет работать с воображаемой клавиатурой, которая не имеет чётких границ. Несколько лет назад были довольно популярны всякие лазерные клави ...

I*******m научился накладывать текст и стикеры на фотографииI*******m научился накладывать текст и стикеры на фотографии I*******m представил новую функцию, которая значительно упростит процесс добавления текста к фотографиям. Теперь пользователи смогут добавлять текст ...

Как отключить Т9 на Айфоне и набирать текст без ошибокКак отключить Т9 на Айфоне и набирать текст без ошибок Автокоррекция или, как ее называют по старой памяти, Т9 появилась на Айфоне очень давно. Вот только далеко не всегда она приносит пользу. Зачастую си ...

Блокнот в Windows 11 научили генерировать текстБлокнот в Windows 11 научили генерировать текст Microsoft тестирует новую функцию для Блокнота в Windows 11 — теперь приложение может генерировать текст с помощью ИИ. Эта возможность появилась в св ...

iOS 18 сможет записывать и расшифровывать в текст телефонные разговорыiOS 18 сможет записывать и расшифровывать в текст телефонные разговоры Apple представила на конференции для разработчиков WWDC 2024 новую функцию платформы iOS 18, которая позволит записывать и расшифровывать телефонные ...

В РФ разработан нейроимплант, позволяющий незрячим читать текстВ РФ разработан нейроимплант, позволяющий незрячим читать текст В России разработан новый нейроимплант под названием ELVIS V, который открывает для незрячих людей возможность не только распознавать объекты, но и ч ...

Стало известно как выровнять текст по центру в Р7-ОфисСтало известно как выровнять текст по центру в «Р7-Офис» Выяснилось, что выровнять текст по центру в текстовых документах «Р7-Офис»... Сообщение Стало известно как выровнять текст по центру в «Р7-Офис» появ ...

Михаил Гершкович: Пора ввести налог на иностранных тренеров, чтобы горячие головы немножко одумались. Нашим специалистам не дают работать и терпеть лМихаил Гершкович: «Пора ввести налог на иностранных тренеров, чтобы горячие головы немножко одумались. Нашим специалистам не дают работать и терпеть локальные неудачи» «Большое количество иностранных тренеров в РПЛ – последняя мода. Происходит какой-то наплыв сербских специалистов, где некоторые из них не имеют опыт ...

Windows 11 научится распознавать текст с фото на смартфоне по удалёнкеWindows 11 научится распознавать текст с фото на смартфоне по «удалёнке» Приложение «Связь с телефоном» для Windows вскоре получит полезное нововведение, которое было замечено в тестовой сборке десктопной ОС. Речь о функци ...

ОС Windows 11 сможет распознавать текст с фото на смартфоне без его скачиванияОС Windows 11 сможет распознавать текст с фото на смартфоне без его скачивания Microsoft удивляет пользователей новым функционалом в своем приложении «Связь с телефоном» для Windows. В скором времени ожидается пополнен ...

В Яндексе разработают нейросеть, способную понимать и голос и текстВ «Яндексе» разработают нейросеть, способную понимать и голос и текст «Яндекс» разработает нейросеть которая «умеет воспринимать текст и звук, отвечать текстом и звуком, решать разные задачи на стыке текста и звука» «Ян ...

Лавров: текст договора России и Ирана полностью согласованЛавров: текст договора России и Ирана полностью согласован Всеобъемлющий договор России и Ирана пока не может быть подписан, подтвердил глава российского МИДа Сергей Лавров. По его словам, сам текст документа ...

Лавров заявил, что текст соглашения с Ираном полностью согласованЛавров заявил, что текст соглашения с Ираном полностью согласован Всеобъемлющий договор России и Ирана целиком согласован, однако пока еще его не могут подписать. ...

Лавров: текст всеобъемлющего договора РФ и Ирана полностью согласованЛавров: текст всеобъемлющего договора РФ и Ирана полностью согласован Министр иностранных дел РФ Сергей Лавров заявил, что текст нового договора о всеобъемлющем сотрудничестве с Ираном готов.«Что касается работы над гос ...

Почему мы слышим голос в голове, когда читаем текстПочему мы слышим голос в голове, когда читаем текст Голос, который озвучивает нам читаемый про себя текст, называется субвокализацией Когда вы читаете книгу или текст в интернете, озвучивает ли его ваш ...

Пашинян заявил, что текст соглашения с Азербайджаном почти готовПашинян заявил, что текст соглашения с Азербайджаном почти готов Армении и Азербайджану осталось согласовать последние детали мирного соглашения, текст почти готов, заявил армянский премьер-министр Никол Пашинян. ...

Украинский депутат опубликовал полный текст мирного плана США по УкраинеУкраинский депутат опубликовал полный текст мирного плана США по Украине В новом плане США по Украине, состоящем из 28 пунктов, прописаны фактическое признание Киевом российскими Крыма, Донецка и Луганска, перевод части те ...

Учёным удалось расшифровать древнейший текст о детстве Иисуса ХристаУчёным удалось расшифровать древнейший текст о детстве Иисуса Христа Эксперты расшифровали древний манускрипт, который оказался самой ранней сохранившейся копией Евангелия детства от Фомы. Фрагмент папируса, который де ...

Вассерман оценил идею включить текст Оксимирона* в школьную олимпиадуВассерман оценил идею включить текст Оксимирона* в школьную олимпиаду Член комитета Госдумы по просвещению Анатолий Вассерман заявил, что включать тексты иноагентов в задания для школьников допустимо, если эксперты сочт ...

Windows сможет извлекать текст с фото на синхронизированном Android-смартфонеWindows сможет извлекать текст с фото на синхронизированном Android-смартфоне Одним из нововведений предстоящей версии приложения Microsoft Phone Link станет инструмент захвата и копирования текста с фотографий, хранящихся на с ...

Windows 11 сможет считывать текст с фото на вашем Android-телефонеWindows 11 сможет «считывать» текст с фото на вашем Android-телефоне Компания Microsoft начала тестировать возможности оптического распознавания текста в приложении Phone Link (Связь с телефоном). В тестовых сборках Wi ...

Для ИИ создают детектор сарказма: новый алгоритм учитывал аудио и текстДля ИИ создают «детектор сарказма»: новый алгоритм учитывал аудио и текст Распознавание сарказма является серьезным препятствием для компьютерных алгоритмов, что влияет на виртуальных помощников и инструменты анализа контен ...

Учёные МГУ нашли способ ускорить перевод видео в текст нейросетямиУчёные МГУ нашли способ ускорить перевод видео в текст нейросетями Российские учёные ускорят перевод информации из видео в текст с помощью нейросетей Учёные из МГУ провели исследование, посвящённое проблеме преобразо ...

Резидент Сколково рассказал, что новый нейроимплант позволит незрячим видеть текстРезидент "Сколково" рассказал, что новый нейроимплант позволит незрячим "видеть" текст Система ELVIS V, созданная специалистами "Сенсор-тех", состоит из камеры, захватывающей окружающее изображение, беспроводного передатчика, который пе ...

Госархив опубликовал полный текст доклада о первом выходе в открытый космосГосархив опубликовал полный текст доклада о первом выходе в открытый космос Российский государственный архив научно-технической документации (РГАНТД) к 90-летию космонавта Алексея Леонова впервые полностью опубликовал его док ...

Некоторые USB-принтеры печатают случайный текст после установки обновлений WindowsНекоторые USB-принтеры печатают случайный текст после установки обновлений Windows Microsoft подтвердила существование проблемы, из-за которой некоторые USB-принтеры печатают случайный текст и сетевые команды. Проблема возникает пос ...

Вечера на хуторе близ... в Московском Молодежном Театре: гоголевский текст на современный ладВечера на хуторе близ... в Московском Молодежном Театре: гоголевский текст на современный лад В Московском Молодежном Театре 9 апреля покажут спектакль "Вечера на хуторе близ…". Автор: Н. В. Гоголь Постановка: В. Спесивцев ...

Стало известно, как преобразовать изображение или PDF в текст в Р7-Офис: простые решения для сложных задачСтало известно, как преобразовать изображение или PDF в текст в «Р7-Офис»: простые решения для сложных задач Изображения и PDF-файлы могут быть стильными и информативными, но когда... Сообщение Стало известно, как преобразовать изображение или PDF в текст в ...

Писатель Цыпкин: Нейросеть не сможет написать текст, который по-настоящему зацепит душуПисатель Цыпкин: Нейросеть не сможет написать текст, который по-настоящему зацепит душу Российский писатель Александр Цыпкин не верит, что искусственный интеллект (ИИ) сможет заменить писателей ...

4 способа перевести аудио в текст: какой сервис справится с этим лучше всего4 способа перевести аудио в текст: какой сервис справится с этим лучше всего Современные нейросети способны на многое, а одна из их самых полезных функций – это перевод речи в текст. Она пригодится и для расшифровки интервью, ...

Бета WhatsApp для Android теперь может превращать голосовые сообщения в текст, в том числе на русскомБета WhatsApp для Android теперь может превращать голосовые сообщения в текст, в том числе на русском В тестовой версии приложения WhatsApp для Android появилась функция расшифровки голосовых сообщений в текст, пишет портал WABetaInfo. Возможность был ...

В Windows появилась возможность копировать текст из изображений на Android-смартфонах через программу Phone LinkВ Windows появилась возможность копировать текст из изображений на Android-смартфонах через программу Phone Link Новая функция Phone Link от Microsoft теперь позволяет пользователям Android-смартфонов выделять и копировать текст из изображений на своих устройств ...

Город-текст, пытающийся вырваться из своего контекста // Екатеринбург: архитектура советского корпоративного проекта, оставшаяся после краха советскоГород-текст, пытающийся вырваться из своего контекста // Екатеринбург: архитектура советского корпоративного проекта, оставшаяся после краха советского проекта Екатеринбург — великий город, тут много разного: Ельцин-центр, новые, вполне китайского вида небоскребы, Храм на Крови на месте Ипатьевского дома, гд ...

Мбаппе высказался о своём будущемМбаппе высказался о своём будущем Форвард Килиан Мбаппе, который недавно объявил об уходе из «ПСЖ», высказался на тему своего будущегоЧитать дальше → ...

Боярский рассказал о своем самочувствииБоярский рассказал о своем самочувствии Актер Михаил Боярский рассказал о своем самочувствии. В беседе с «Абзацем» он отметил, что чувствует себя «пока очень посредственно». ...

Эдегор  о своём возвращении: НевероятноЭдегор – о своём возвращении: «Невероятно» Капитан лондонского «Арсенала» Мартин Эдегор залечил травму и впервые за долгое время вышел в стартовом составеЧитать дальше → ...

Загитова рассказала о своем страхеЗагитова рассказала о своем страхе Олимпийская чемпионка по фигурному катанию Алина Загитова призналась, что боится общественного осуждения ее внешнего вида. Об этом она рассказала в и ...

Соседов высказался о своем будущемСоседов высказался о своем будущем Сергей Соседов устроил скандал в финале юбилейного сезона шоу «Суперстар». Он заявил, что не признает итогов телевизионного конкурса, в котором Азизу ...

Vivo представила Y200 GT и ещё две моделиVivo представила Y200 GT и ещё две модели Некоторое время назад компания Vivo официально представила сразу три смартфона серии Y200 — базовую модель Y200, Y200e с обновлённым процессором и Y2 ...

Ван Дейк рассказал о своём будущем в ЛиверпулеВан Дейк рассказал о своём будущем в «Ливерпуле» Нидерландский игрок обороны «Ливерпуля» Виргил ван Дейк заявил, что останется в английском клубе на следующий сезон.Читать дальше → ...

Сибирь на своём льду обыграла Барыс«Сибирь» на своём льду обыграла «Барыс» «Сибирь» обыграла «Барыс»«Сибирь» (Новосибирская область) – «Барыс» (Астана) – 4:1 (3:0, 0:1, 1:0) В Новосибирске состоялся матч двух худших команд В ...

Добровольская напророчила смерть на своем юбилееДобровольская напророчила смерть на своем юбилее Подруга актрисы вспомнила, как она отмечала свой день рождения, — тогда декорации на сцене словно кричали о беде. ...

Дуров рассказал о своем смартфоне стоимостью $180Дуров рассказал о своем смартфоне стоимостью $180 Основатель Telegram Павел Дуров рассказал, что на протяжении двух лет пользовался бюджетным смартфоном Samsung стоимостью $180. ...

Карпукас поделился мнением о своем будущемКарпукас поделился мнением о своем будущем Полузащитник «Локомотива» Артем Карпукас поделился мнением о будущем и об интересе со стороны европейских клубов. ...

Ставрополец организовал наркоплантацию в своем домеСтаврополец организовал наркоплантацию в своем доме В Изобильненском округе местный житель организовал настоящую наркоплантацию. Подробности рассказали в краевом Главке МВД. Информация о том, что 56-ле ...

Байден рассказал о своем прошлом на УкраинеБайден рассказал о своем прошлом на Украине Президент США Джо Байден рассказал о проведенном месяце на Украине во время работы в качестве вице-президента при Бараке Обаме. Об этом он рассказал ...

Черников ответил на вопрос о своем будущемЧерников ответил на вопрос о своем будущем Полузащитник «Краснодара» Александр Черников в интервью «СЭ» ответил на вопрос о возможном продлении контракта с «быками». ...

Винисиус Жуниор  о своем будущем: Реал  это мой домВинисиус Жуниор — о своем будущем: «Реал» — это мой дом» Нападающий «Реала» Винисиус Жуниор после победы над «Манчестер Сити» (3:2) в первом матче стыкового раунда плей-офф Лиги чемпионов прокомментировал и ...

Икарди забил в своём первом матче за 282 дняИкарди забил в своём первом матче за 282 дня Нападающий «Галатасарая» Мауро Икарди забил сразу после возвращения на полеЧитать дальше → ...

Федерика Бриньоне рассказала о своем восстановленииФедерика Бриньоне рассказала о своем восстановлении Сегодня Федерика Бриньоне отмечает 35-летие, и продолжает упорно работать, чтобы в следующем сезоне быть на высоте. Для обладательницы Кубка мира по ...

Бэйл рассказал о своём отношении к РеалуБэйл рассказал о своём отношении к «Реалу» Бывший футболист «Реала» Гарет Бэйл высказался о мадридском клубеЧитать дальше → ...

Татьяна Тарасова рассказала о своем самочувствииТатьяна Тарасова рассказала о своем самочувствии Татьяна Тарасова / Фото: © Денис Бушковский / Матч ТВ Татьяна Тарасова рассказала о своем самочувствии Заслуженный тренер СССР по фигурному ката ...