Ученые Сбера выяснили, что большие языковые модели можно оптимизировать до 15% без потери качества

Ученые Сбера выяснили, что большие языковые модели можно оптимизировать до 15% без потери качества

Ученые Сбера, лаборатории Fusion Brain Института AIRI и Сколтеха обнаружили принципиально новое свойство больших языковых моделей и научились контролировать его. Это позволит оптимизировать модели-трансформеры на 10–15% без потери в качестве, экономя вычислительные мощности. Модели с...
31.05.2024 [15:16]
Источник: www.ng.ru  
Рубрика: «Общество»   Поделиться: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Большие языковые модели можно оптимизировать до 15% без потери качестваБольшие языковые модели можно оптимизировать до 15% без потери качества Ученые Сбербанка, лаборатории Fusion Brain Института AIRI и «Сколтеха» обнаружили принципиально новое свойство больших... ...

Учёные из Дармштадта и Бата: большие языковые модели не опасныУчёные из Дармштадта и Бата: большие языковые модели не опасны Новое исследование, проведенное группой учёных из Технического университета Дармштадта под руководством Ирины Гуревич и Университета Бата под руковод ...

Сбер и Сибур внедрят большие языковые модели в промышленностьСбер и "Сибур" внедрят большие языковые модели в промышленность Сбер и "Сибур" займутся внедрением больших языковых моделей в промышленность для повышения производительности и конкурентоспособности, сообщает пресс ...

Большие языковые модели испытывают трудности с координацией в социальных и кооперативных играхБольшие языковые модели испытывают трудности с координацией в социальных и кооперативных играх Большие языковые модели (LLM), такие как модель, лежащая в основе функционирования популярной диалоговой платформы ChatGPT, в настоящее время широко ...

Большие языковые ИИ-модели не могут справиться с подсчётом букв в слове клубника на английскомБольшие языковые ИИ-модели не могут справиться с подсчётом букв в слове «клубника» на английском Несмотря на впечатляющие возможности больших языковых моделей (LLM), таких как GPT-4o и Claude, в написании эссе и решении уравнений за считанные сек ...

Советы от деда: почему большие языковые модели не всегда годятся для решения задачиСоветы от «деда»: почему большие языковые модели не всегда годятся для решения задачи Выход ChatGPT в конце 2022 года стимулировал бизнес к внедрению искусственного интеллекта для принятия решений на основе данных. Это событие также сд ...

Эксперты группы ЛАНИТ: Большие языковые модели не просто автоматизируют существующие процессы, а создают новые возможности для бизнесаЭксперты группы ЛАНИТ: «Большие языковые модели не просто автоматизируют существующие процессы, а создают новые возможности для бизнеса» В числе проектов группы ЛАНИТ — интеллектуальная система «ИИ-аналитик», которая помогает ускорять отдельные фазы цикла разработки ПО в 5-10 раз; ИИ-с ...

Учёные выяснили, когда были построены самые большие египетские пирамидыУчёные выяснили, когда были построены самые большие египетские пирамиды Археологи обнаружили давно потерянный рукав реки Нил. Он был погребён под песками пустыни на протяжении тысячелетий. Благодаря этому открытию появило ...

Учёные выяснили, как можно избежать возникновения аллергии на арахисУчёные выяснили, как можно избежать возникновения аллергии на арахис Результаты нового исследования показали, что регулярное кормление арахисом детей с младенчества до пяти лет снизило на 71% вероятность развития у них ...

OpenAI предложила запретить языковые модели DeepSeek в СШАOpenAI предложила запретить языковые модели DeepSeek в США Как это часто бывает с передовыми для Китая технологиями, разработки DeepSeek быстро нашли недоброжелателей за его пределами. Конкурирующая американс ...

Локальные языковые модели. Генерируем текст на своем компьютереЛокальные языковые модели. Генерируем текст на своем компьютере Для подписчиковКогда слышишь про генерацию, первыми в голову приходят картинки — от сюрреалистичных шедевров до аниме‑клубнички. Но генерировать можн ...

DeepSeek научилась тренировать языковые ИИ-модели без оглядки на ограничения по скорости памятиDeepSeek научилась тренировать языковые ИИ-модели без оглядки на ограничения по скорости памяти Как отмечалось недавно, пропускная способность памяти, используемой в инфраструктуре ИИ, становится одним из серьёзных ограничителей дальнейшего рост ...

Старики в 7 лет: ученые выяснили, какой возраст у кошки можно считать еще молодым и уже совсем старым - проверьте своюСтарики в 7 лет: ученые выяснили, какой возраст у кошки можно считать еще молодым и уже совсем старым - проверьте свою Старики в 7 лет: ученые выяснили, какой возраст у кошки можно считать еще молодым и уже совсем старым - проверьте свою Узнайте реальный возраст кошек ...

Alibaba выпустила математические языковые модели Qwen2-Math, которые лучше аналогов от OpenAI и GoogleAlibaba выпустила математические языковые модели Qwen2-Math, которые лучше аналогов от OpenAI и Google Alibaba Group Holding продолжает активно работать в сфере искусственного интеллекта. На этой неделе гигант электронной коммерции выпустил несколько б ...

Как сжать видео без потери качестваКак сжать видео без потери качества Среди многочисленных инструментов на рынке особое место занимает Wondershare UniConverter, выделяющийся своей способностью оптимизировать мультимедий ...

Подполье: ВСУ несут большие потери в Курской областиПодполье: ВСУ несут большие потери в Курской области Вооруженные силы Украины несут большие потери в Курской области. В Сумах, находящихся рядом с курским регионом, стоит множество скорых. Об этом сообщ ...

Прораб назвал 5 способов сэкономить на ремонте без потери качестваПрораб назвал 5 способов сэкономить на ремонте без потери качества Сохраняйте и берите на вооружение: разберутся даже те, кто никогда не делал ремонт раньше. ...

Platform V Service Layer: как масштабировать клиентский сервис без потери качестваPlatform V Service Layer: как масштабировать клиентский сервис без потери качества Приглашаем на вебинар «Platform V Service Layer: как масштабировать клиентский сервис без потери качества», который состоится 29 февраля в 11:00. ...

В ВСУ заявили, что украинские офицеры скрывают большие потери среди солдатВ ВСУ заявили, что украинские офицеры скрывают большие потери среди солдат Украинские офицеры не раскрывают командованию настоящие данные о потерях среди личного состава, рассказал изданию Hromadske командир батальона Вооруж ...

Ученые выявили новый тип потери памятиУченые выявили новый тип потери памяти Ученые из клиники Майо выявили новый тип потери памяти, отличный от болезни Альцгеймера. Патология развивается вследствие накопления в мозге агрегато ...

Ученые назвали главные качества идеального другаУченые назвали главные качества идеального друга Американские ученые из Университета штата Айдахо узнали, какие качества считаются наиболее ценными в дружбе. Исследование опубликовано в научном изда ...

Стало известно можно ли загружать на Р7-Диск большие файлыСтало известно можно ли загружать на «Р7-Диск» большие файлы Как выяснилось, такая возможность действительно есть, однако для возможности использования... Сообщение Стало известно можно ли загружать на «Р7-Диск ...

В Зеленом марафоне Сбера можно будет участвовать онлайн и помочь детямВ Зеленом марафоне Сбера можно будет участвовать онлайн и помочь детям Фото пресс-службы Сбера Благотворительный забег Сбербанка Зеленый марафон, старт которого будет дан в Международный день защиты детей, 1 июня, станет ...

Свой счет в Тинькофф можно будет посмотреть в приложении Сбера и наоборотСвой счет в Тинькофф можно будет посмотреть в приложении Сбера и наоборот Сбер и Тинькофф стали первыми крупными банками России, запустившими проект по Открытым API. Теперь клиенты обоих банков могут видеть свои дебетовые с ...

Российские ученые создали устройство для улучшения качества электроэнергииРоссийские ученые создали устройство для улучшения качества электроэнергии В пресс-службе Новосибирского государственного технического университета (НГТУ) сообщили, что ученые вуза разработали устройство для систем электросн ...

Ученые определили неочевидную причину потери зубов у пожилых женщинУченые определили неочевидную причину потери зубов у пожилых женщин Хроническая болезнь почек у женщин в период постменопаузы может вызывать выпадение зубов в результате нарушений минерального костного обмена. К таком ...

Ученые выявили неочевидную причину потери зубов у пожилых женщинУченые выявили неочевидную причину потери зубов у пожилых женщин Ученые из Национального университета Чоннам в Южной Корее обнаружили, что хроническая болезнь почек у женщин в период постменопаузы (период после нас ...

Российские учёные разработали новый метод оценки качества передачи сигналаРоссийские учёные разработали новый метод оценки качества передачи сигнала Учёные МТУСИ разработали новый метод оценки качества передачи сигнала звукового вещания Учёные из МТУСИ предложили новый метод оценки качества переда ...

YouTube начнёт автоматически улучшать видео низкого качества  от этого можно будет отказатьсяYouTube начнёт автоматически улучшать видео низкого качества — от этого можно будет отказаться YouTube анонсировал несколько новых функций, призванных улучшить качество просмотра на экранах телевизоров. В частности, YouTube начнёт автоматически ...

Учёные выяснили, вредно ли для здоровья плакатьУчёные выяснили, вредно ли для здоровья плакать Слезы выполняют несколько важных функций в организме: защищают глаза от повреждений, увлажняют их и помогают выражать эмоции. По информации iXBT.com, ...

Ученые выяснили природу блуждающих мыслейУченые выяснили природу "блуждающих мыслей" Иногда люди воспринимают то, чего на самом деле не было. Они могут живо описывать ситуации, создавая впечатление, будто они действительно произошли. ...

Ученые выяснили, как заставить печень регенерироватьУченые выяснили, как заставить печень регенерировать Ученые обнаружили механизмы, стимулирующие регенерацию печени при хронических заболеваниях. Результаты исследования опубликованы в журнале Nature. Би ...

Учёные выяснили, полезен ли плач для здоровьяУчёные выяснили, полезен ли плач для здоровья С одной стороны, слёзы связаны с примитивным рефлексом, который защищает глаза от соринок и пыли. С другой — они могут быть вызваны эмоциями, способн ...

Ученые выяснили, что происходит в мозге лунатиковУченые выяснили, что происходит в мозге лунатиков Ученые из Нидерландского института нейробиологии выяснили, какие процессы происходят в мозге человека, который находится в состоянии лунатизма, или п ...

Ученые выяснили, как стресс влияет на сердцеУченые выяснили, как стресс влияет на сердце Ученые подтвердили, что у людей с сердечно-сосудистыми заболеваниями стресс может усугубить проблемы с сердцем. Новое исследование, опубликованное в ...

Ученые выяснили, кому опасен рыбий жирУченые выяснили, кому опасен рыбий жир Регулярный прием добавок с рыбьим жиром может увеличить риск инсульта и болезней сердца здоровых людей. Однако рыбий жир может быть полезен для тех, ...

Учёные выяснили происхождение современного гемоглобинаУчёные выяснили происхождение современного гемоглобина Две мутации более 400 миллионов лет назад вызвали появление сложного железосодержащего белка. Международная команда исследователей во главе с професс ...

Все модели iPhone 15 теперь можно будет заряжать до 80%, 85%, 90% или 95%Все модели iPhone 15 теперь можно будет заряжать до 80%, 85%, 90% или 95% Все четыре модели iPhone 15 имеют настройку, которая предотвращает зарядку устройств выше 80%, что потенциально может увеличить срок службы аккумулят ...

Половой паразитизм помогает опуститься на дно, выяснили ученыеПоловой паразитизм помогает опуститься на дно, выяснили ученые Половой паразитизм помог рыбам-удильщикам уйти жить в морские глубины во время глобального потепления после исчезновения динозавров. Это показало исс ...

Из чая или кофе Ученые выяснили, какой кофеин вреднееИз чая или кофе? Ученые выяснили, какой кофеин вреднее В древности чай считался настолько полезным, что приравнивался к лекарству. Сегодня мифов вокруг напитка меньше, однако о его положительных свойствах ...

Ученые выяснили, как получить максимум пользы от йогуртаУченые выяснили, как получить максимум пользы от йогурта Добавление меда в йогурт потенциально может улучшить здоровье кишечника. Об этом сообщает Health.com. Пищеварительные ферменты уничтожают большую час ...

Ученые выяснили, что чай помог сохранить множество жизнейУченые выяснили, что чай помог сохранить множество жизней Рост популярности чая в Англии 1700-х годов привел к снижению заболеваемости инфекциями, распространяемыми с грязной водой. Об этом ученые рассказали ...

Учёные выяснили, что испытывает человек перед смертьюУчёные выяснили, что испытывает человек перед смертью Умирая, люди утрачивают способности организма постепенно. Дольше всего остаётся возможность слышать. Об этом сообщает MedicalXpress со ссылкой на Стэ ...

Ученые выяснили, почему Бетховен потерял слухУченые выяснили, почему Бетховен потерял слух Ученые рассказали почему Бетховен мог потерять слух Людвиг ван Бетховен — один из величайших композиторов XVIII-XIX века. Однако он известен не тольк ...

Ученые выяснили, как инопланетяне смогут найти ЗемлюУченые выяснили, как инопланетяне смогут найти Землю Поиск техносигнатур — признаков технологической деятельности на далеких экзопланетах — остается одной из самых сложных задач современной астрономии. ...

Ученые выяснили, как стресс подрывает здоровье мозгаУченые выяснили, как стресс "подрывает" здоровье мозга Ученые из Каролинского института в Швеции установили, что физиологический стресс (повышенный уровень гормона кортизола в крови) ухудшает способность ...

Китайские ученые выяснили, что бессмертие мозга возможноКитайские ученые выяснили, что бессмертие мозга возможно Группа китайских исследователей сделала значительный прорыв в области крионики, разработав методику заморозки и разморозки тканей головного мозга без ...

Ученые выяснили, где впервые появились рыжие тараканыУченые выяснили, где впервые появились рыжие тараканы Ученые выяснили, что рыжие тараканы появились около 2100 лет назад на территории Индии или Мьянмы. Эти насекомые произошли от азиатских тараканов и с ...

Учёные из США выяснили, что эритритол может вредить сосудамУчёные из США выяснили, что эритритол может вредить сосудам В ходе лабораторных экспериментов выяснилось, что известный подсластитель может негативно влиять на клетки кровеносных сосудов, а именно на эндотелий ...

Учёные выяснили, что недостаток воды приводит к недосыпуУчёные выяснили, что недостаток воды приводит к недосыпу Всему виной гормон вазопрессин. Группа исследователей из США и Китая выяснили, что к плохому качеству сна приводит, в том числе, и недостаток воды. П ...

Учёные выяснили, что без сна человекообразные роботы утрачивают эффективностьУчёные выяснили, что без сна человекообразные роботы утрачивают эффективность Оказалось, даже нейросети нужен отдых. Учёные из американской Лос-Аламосской национальной лаборатории обнаружили, что без сна человекообразные роботы ...

Ученые выяснили, что ругательства повышают выносливость при нагрузкахУченые выяснили, что ругательства повышают выносливость при нагрузках Британские исследователи пришли к выводу, что использование нецензурной лексики может повышать физическую выносливость во время интенсивных упражнени ...

Ученые выяснили, почему появляются блуждающие мыслиУченые выяснили, почему появляются "блуждающие" мысли Ученые из Университета Осаки (Япония) обнаружили, что блуждающие мысли или так называемые "грезы наяву" являются "самогенерируемой" мозговой активнос ...

Учёные выяснили причину радарных аномалий на МарсеУчёные выяснили причину радарных аномалий на Марсе Американские планетологи установили, что радарные аномалии на южном полюсе Марса, обнаруженные в 2018 году, вызваны не подледными озерами из жидкой в ...

Ученые выяснили, как людям с гипертонией защититься от деменцииУченые выяснили, как людям с гипертонией защититься от деменции Интенсивные физические тренировки могут способствовать сохранению умственных способностей у пациентов с гипертонией, склонных к деменции. Это показал ...

Ученые выяснили, что куркума предотвращает болезнь АльцгеймераУченые выяснили, что куркума предотвращает болезнь Альцгеймера В будущем приправу можно будет использовать для создания препаратов от нейродегенеративных заболеваний. ...

Ученые выяснили, насколько эффективны управленцы-психопатыУченые выяснили, насколько эффективны управленцы-психопаты Недавнее исследование пролило свет на то, как руководителям с психопатическими наклонностями удается поддерживать положительный имидж и завоевывать д ...

Учёные выяснили причину радиоактивности чернобыльских кабановУчёные выяснили причину радиоактивности чернобыльских кабанов Специалистам из Венского университета и университета Лейбница в Ганновере удалось выяснить, почему дикие кабаны, проживающие в Чернобыле, остаются ра ...

Ученые выяснили, как наше мышление воспринимает отрицаниеУченые выяснили, как наше мышление воспринимает отрицание Группа ученых идентифицировала, как наше сознание работает с фразами, содержащими отрицание, показав, что оно смягчает, а не инвертирует значение. Эт ...

Ученые выяснили, как повысить шансы на здоровое старениеУченые выяснили, как повысить шансы на здоровое старение Замена двух часов просмотра ТВ на легкую физическую активность повышает шансы на здоровое старение. Это показало исследование, опубликованное в журна ...

Ученые выяснили пользу от работы в офисе для сотрудниковУченые выяснили пользу от работы в офисе для сотрудников Общение и дружба на рабочем месте помогают сотрудникам компаний сохранять психическое здоровье и мотивацию к труду. Об этом говорится в новом отчете ...

Учёные выяснили, что отсутствие сна повышает риск самоубийстваУчёные выяснили, что отсутствие сна повышает риск самоубийства Исследователи из Университета Аризоны изучили данные о 78 647 самоубийствах и 50 526 убийствах, произошедших в США в 2003–2017 годах в США. Их интере ...

Ученые выяснили, как мозг различает музыку и речьУченые выяснили, как мозг различает музыку и речь Международная группа ученых провела серию экспериментов, чтобы выяснить, как наш мозг различает музыку и речь. ...

Фрукты или овощи: ученые выяснили наконец, что полезнееФрукты или овощи: ученые выяснили наконец, что полезнее Исследование провели специалисты из Университета Уильяма Патерсона. Ученые провели исследование, чтобы составить список самых полезных продуктов. В д ...

Похудение снижает склонность к риску, выяснили ученыеПохудение снижает склонность к риску, выяснили ученые Ученые из Немецкого института питания человека Потсдам-Ребрюке обнаружили, что у людей с ожирением улучшается психическое здоровье и снижается склонн ...

Здоровый сон уменьшает вред от одиночества, выяснили ученыеЗдоровый сон уменьшает вред от одиночества, выяснили ученые Американские ученые из Университета Содружества Вирджинии выяснили, что здоровый сон облегчает последствия социального одиночества для состояния чело ...

Ученые с помощью суперкомпьютера оценили потери крупных экономик в случае торговой блокадыУченые с помощью суперкомпьютера оценили потери крупных экономик в случае торговой блокады Россия стала одной из самых устойчивых стран, Германия оказалась одной из наиболее уязвимых ...

Ученые назвали новый тип потери памяти, который часто принимают за болезнь АльцгеймераУченые назвали новый тип потери памяти, который часто принимают за болезнь Альцгеймера Малоизвестная форма деменции, которую легко принять за болезнь Альцгеймера, теперь имеет совершенно новое название и особые диагностические критерии. ...

Учёные предложили две новые модели развития ВселеннойУчёные предложили две новые модели развития Вселенной Российские и Индийские учёные разработали две модели, описывающие развитие Вселенной Российские и индийские учёные предложили новые модели развития В ...

Ученые выяснили, что старая вакцина защищает диабетиков от заболеванийУченые выяснили, что старая вакцина защищает диабетиков от заболеваний Исследование, проведенное в Массачусетском госпитале (MGH), показало, что столетняя вакцина BCG, изначально созданная для профилактики туберкулеза, з ...

Ученые выяснили, каким образом водоросли различают цветаУченые выяснили, каким образом водоросли различают цвета Японские ученые из Токийского столичного университета идентифицировали новый фоторецептор у цианобактерий, благодаря которому эти микроорганизмы восп ...

Ученые выяснили, когда люди впервые оседлали лошадейУченые выяснили, когда люди впервые оседлали лошадей Международная группа ученых из 113 научных учреждений по всему миру установила время, когда люди стали передвигаться на лошадях, что положило начало ...

Высокое давление снижает когнитивные способности, выяснили ученыеВысокое давление снижает когнитивные способности, выяснили ученые Ученые из Университета Ювяскюля и Университета Восточной Финляндии обнаружили, что у подростков с повышенным кровяным давлением и ригидностью артерий ...

Ученые выяснили, от чего зависят различия в тяжести аутизмаУченые выяснили, от чего зависят различия в тяжести аутизма Ученые из университета Калифорнии обнаружили, что во время внутриутробного развития кора головного мозга ребенка с аутизмом растет быстрее. Более зна ...

Ученые выяснили, что загрязненный воздух повышает риск деменцииУченые выяснили, что загрязненный воздух повышает риск деменции Долговременное воздействие загрязненного воздуха повышает риск деменции, показало новое исследование в Дании. Ученые обнаружили связь между загрязнен ...

Ученые выяснили, что газ с запахом моря помогает охлаждать ЗемлюУченые выяснили, что газ с запахом моря помогает охлаждать Землю Международная группа ученых из Китая и Великобритания установила, что чрезвычайно распространенный тип океанских водорослей играет важную роль в охла ...

Ученые выяснили, как бесплатно получить дневную норму витамина DУченые выяснили, как бесплатно получить дневную норму витамина D Ученые определили оптимальные условия для получения суточной дозы витамина D под воздействием солнца в зависимости от региона проживания, времени год ...

Ученые МГУ выяснили, как цифровые игры влияют на воображение ребенкаУченые МГУ выяснили, как цифровые игры влияют на воображение ребенка Традиционные игры у детей начали вытесняться и замещаться игрой на цифровых устройствах, современные дошкольники, по статистике, проводят перед экран ...

Регулярные походы в баню защищают от психоза, выяснили ученыеРегулярные походы в баню защищают от психоза, выяснили ученые Британские ученые из Лестерского университета нашли связь между регулярными визитами в баню и устойчивостью к психозу. Исследование опубликовано в на ...

Ученые выяснили, как именно стресс провоцирует распространение ракаУченые выяснили, как именно стресс провоцирует распространение рака Стресс — неизбежный аспект жизни. Однако чрезмерный может иметь пагубные последствия для нашего здоровья. Длительный стресс повышает риск развития се ...