2023-04-18

MiniGPT-4

Новости.

MiniGPT-4, языковая модель, которая выравнивает замороженный визуальный кодер с замороженной большой языковой моделью Vicuna, используя всего один проекционный слой, обладает аналогичными GPT-4 возможностями, такими как генерирование подробных описаний изображений и написание историй и стихов, вдохновленных заданными изображениями. Модель обладает высокой вычислительной эффективностью, используя всего около 5 миллионов выровненных пар изображение-текст, и требует только обучения линейного слоя для согласования визуальных характеристик с большой языковой моделью Vicuna. Создатели готовят более легкую модель, работающую на одном графическом процессоре 3090, для будущего использования.

Industry Reactions.

Исследователи создают модель MiniGPT-4, которая превосходит другие, соединив ViT-L+Q-формер BLIP2 с Vicuna-13B с линейным слоем и обучив только крошечный слой на некоторых наборах данных изображений и текстов. Другие комментарии включают модели машинного обучения, запуск LLM на процессорах и маркетинг продуктов, основанных на небольших моделях. Исследователи Университета короля Абдаллы разрабатывают Vicuna - архитектуру GPT-трансформера, который генерирует компьютерные программы и веб-сайты на основе естественного языка с повышенной эффективностью обучения. Более быстрая и эффективная работа GPTQ 4bit открывает захватывающие возможности для резюмирования видео и других приложений для программного обеспечения и технологий.

RedPajama: Воспроизведение LLaMA с дружественной лицензией

Новости.

RedPajama, проект по созданию ведущих моделей с открытым исходным кодом, начинается с воспроизведения обучающего набора данных LLaMA, насчитывающего более 1,2 триллиона токенов; RedPajama состоит из трех ключевых компонентов: данные предварительного обучения, базовые модели и данные и модели для настройки; RedPajama выпустила полный набор данных RedPajama на 1,2 триллиона токенов, а меньшую, более доступную случайную выборку можно загрузить через Hugging Face.

Industry Reactions.

Компания Together XYZ выпустила RedPajama, набор данных языковых моделей с открытым исходным кодом, который в четыре раза больше, чем GPT-3 от OpenAI, и отвечает на критику исследователей ИИ относительно закрытого характера разработки и развертывания языковых моделей. В комментариях на Hacker News упоминаются различные производные, такие как Pythia, OpenAssistant, StableDiffusion и Midjourney, подчеркиваются их сильные и слабые стороны, с акцентом на качество и контроль изображений. Продолжаются споры о возможности авторского права на весовые коэффициенты ИИ, и RedPajama сталкивается с проблемами в создании устойчивой инициативы по ИИ с открытым исходным кодом, способной конкурировать с большими технологиями.

Samsung рассматривает возможность перехода на Bing в качестве поисковой системы по умолчанию

Новости.

Samsung, как сообщается, ведет переговоры с Microsoft о том, чтобы сделать Bing поисковой системой по умолчанию на своих устройствах Galaxy, включая смартфоны и планшеты на базе Android, а Google, похоже, находится в "режиме паники". Это происходит в то время, как гонка за внедрение лучших способностей искусственного интеллекта в веб-поиск разгорается, и Google работает над своим контр-полем, проектом "Magi", который, как сообщается, обеспечит гораздо более персонализированный опыт по сравнению с текущим сервисом. Недавно Google пригласил сотрудников протестировать ИИ в поисковой системе, запуск которой возможен в мае 2023 года.

Реакция индустрии.

Samsung рассматривает возможность перехода на Bing в качестве поисковой системы по умолчанию, возможно, из-за усиления рекламного давления Google на Google Cloud Platform (GCP) и для того, чтобы выжать больше платежей из Samsung и Apple. Bing может перебить Google в потенциальной сделке по поисковой системе, а Microsoft подталкивает Samsung к созданию нового устройства. Ведутся дебаты о снижении качества и SEO-тактики Google, что подталкивает пользователей к альтернативным поисковым системам, таким как ChatGPT, DDG, Brave Search и Bing. Кроме того, улучшилась работа с настольными компьютерами Linux, и многие пользователи предпочитают Linux для работы, а Chromebooks предпочитают в образовательном секторе.

Мне понравилось это простое упражнение по исчислению

Новости.

Автор делится упражнением на вычисление, которое требует от студентов понимания того, что вычисляет интеграл, а не просто полагаться на установленные правила интегрирования общих функций. Для решения задачи студенты могут использовать построение графиков, разбиение сложных функций на более простые части, работу с кусочно-непрерывными функциями и использование симметрии. Это упражнение может помочь учащимся освоить ценные приемы и понять, что не всякая проблема может быть решена простым перебором символов.

Industry Reactions.

Пользователи Hacker News обсуждают преподавание исчисления и предлагают больше упражнений для проверки понимания. Они также предлагают использовать современное программное обеспечение и закреплять основные понятия на протяжении всего курса. Кроме того, они делятся ресурсами для проверки математических моделей или упражнений.

Загрузка современных процессоров Intel

Новости.

• Загрузка современных процессоров Intel включает проверку сигнатур и выполнение модулей аутентифицированного кода (ACM) для обнаружения атак или вредоносного ПО.
• BootGuard, решение Intel для обеспечения безопасности при загрузке, проверяет обновления микрокода, проверяет наличие заголовков в системной флэш-памяти, считывает ACM, проверяет его подпись и выполняет IBB в 32-битном режиме.
• Пост обсуждает возможность полагаться на микропрограмму для тяжелых задач вместо ОС и хорошо написан для новых читателей из технологической отрасли, без политических/религиозных предрассудков и внешнего выделения текста, но без каких-либо захватывающих или новых аспектов.

Industry Reactions.

Обсуждаются процессоры Intel и трудности с загрузкой вспомогательных процессоров в нескольких системах, а также способы решения этих проблем с помощью вызовов функций и ассемблерного кода без использования памяти или стеков. Некоторые разработчики выражают недовольство глючными прошивками и ненадежностью продуктов, в то время как другие остаются довольны более дешевыми альтернативами, которые работают для их нужд. В разговоре также затрагивается тема отказа от поддержки традиционной загрузки в пользу обновлений прошивки, а реальный режим больше не играет роли при загрузке современных операционных систем.

iOS 17, как сообщается, создаст условия для боковой загрузки приложений на iPhone

Новости.

Apple может добавить возможность боковой загрузки приложений на iPhone с выходом iOS 17, согласно отчету Bloomberg. Сообщается, что компания создает основу для такой функциональности и может сделать соответствующее объявление на предстоящей Всемирной конференции разработчиков (WWDC) в июне. Пока неясно, будет ли Apple разрешать боковую загрузку в iOS 17, или она просто вносит некоторые изменения на уровне операционной системы, чтобы сделать это позже.

Industry Reactions.

Как сообщается, iOS 17 от Apple позволяет загружать приложения на iPhone с боковой загрузкой; некоторые хвалят этот шаг, в то время как другие беспокоятся о снижении мер безопасности. В центре дебатов стоит вопрос о балансе между защитой конфиденциальности и безопасности и возможностью боковой загрузки приложений. Критики считают, что Apple обладает монополией и должна предлагать пользователям больше возможностей, в то время как защитники указывают на более высокий уровень защиты конфиденциальности и безопасности по сравнению с конкурентом, Android.

Генеральный директор OpenAI говорит, что эпоха гигантских моделей ИИ уже закончилась

Новости.

Генеральный директор OpenAI Сэм Альтман заявил, что эра создания больших языковых моделей, таких как GPT, подходит к концу. Хотя OpenAI продолжает продвигаться вперед в области ИИ, для будущих успехов потребуются новые идеи, и, по словам Альтмана, они не придут от простого увеличения моделей. Многие хорошо финансируемые стартапы пытаются догнать технологию OpenAI, и GPT-4 - это неожиданный поворот в гонке за разработку и внедрение новых алгоритмов ИИ.

Реакция индустрии.

Генеральный директор OpenAI утверждает, что большие модели ИИ больше не являются экономически целесообразными, и будущий прогресс в ИИ будет происходить за счет совершенствования моделей другими способами. Мультимодальные модели - это новый рубеж исследований в ИИ. Некоторые эксперты скептически относятся к заявлениям OpenAI о размерах и возможностях GPT-4, в то время как другие отмечают его потенциал экспоненциального роста. Возможно, OpenAI придется найти новые источники обучающих данных и улучшить качество алгоритмов и данных для создания более совершенных моделей ИИ. Обсуждение языковой компетенции и ограничений GPT-4 привело к разговорам об улучшении языковых моделей за счет мультимодальных возможностей, более эффективных целей обучения и оптимизаторов, а также усовершенствований в дополнении данных.

Microsoft удалила форумы публичной поддержки SwiftKey

News.

Этот текст не относится к заголовку 'Microsoft удалила форумы общественной поддержки SwiftKey' и поэтому не может быть обобщен соответствующим образом. Пожалуйста, предоставьте правильный текст для обобщения.

Реакция отрасли.

Компания Microsoft удалила форумы публичной поддержки для SwiftKey, к которой пользователи относятся лояльно, поскольку она изучает их стиль набора текста и становится продолжением их тела; теперь они могут обращаться с вопросами только в службу поддержки SwiftKey. Комментарии затрагивают различные темы, включая проверку личности в Интернете и последствия слишком долгого пребывания в сети; в других комментариях затрагиваются вопросы андроидности и зависимости от социальных сетей. Однако в некоторых комментариях также обсуждаются сильные стороны SwiftKey, включая смешанное обучение языковой модели и эргономичный дизайн, что делает его основной альтернативой стандартным клавиатурам на устройствах Android и iOS.

Нет исходного кода == Нет патента

Новости.

• Раскрытие исходного кода в патентах на программное обеспечение важно, поскольку оно доказывает, что изобретатель может реализовать изобретение, и добавляет патенту достоверности, особенно в случаях нарушения прав.
• Включение исходного кода полностью удовлетворяет требованию письменного описания и разрешения, уменьшая количество заявок на патенты на программное обеспечение и избегая двусмысленности в спецификациях дизайна.
• В статье рассматриваются судебные дела и текущее состояние патентов в области компьютерных технологий и цифровых коммуникаций, подчеркивается необходимость включения исходного кода в патенты на программное обеспечение для решения вопроса о разумном экспериментировании.

Реакция промышленности.

Споры о том, следует ли отменить или сохранить патенты на программное обеспечение, разгораются на Hacker News, где приводятся аргументы за и против необходимости патентов для предотвращения кражи независимо созданных идей. Некоторые считают, что патенты на программное обеспечение препятствуют инновациям и требуют большего, чем просто идея или концепция, например, физического объекта или рабочей копии, в то время как другие спорят о значимости исходного кода и алгоритмов для патентных прав.

Я сделал свой блог на солнечных батареях, а потом все обострилось

Новости.

Блоггер построил систему на солнечных батареях для работы своего блога и компьютерного стола, используя солнечные панели с суммарной мощностью 740 Вт, питание через 12-вольтовую систему с большим использованным свинцово-кислотным аккумулятором, солнечным зарядным устройством Victron, инвертором и переключателем Filax 2, а сбор данных включает использование Python, InfluxDB и Grafana для сбора и отображения данных. Для безопасности и снижения затрат рекомендуется использовать кабели аккумулятора увеличенного размера и систему 24 или 48 вольт, а для обеспечения безопасности используется герметичная свинцово-кислотная батарея. Алгоритм динамической нагрузки предотвращает глубокую разрядку батареи, а темный фон позволяет экономить электроэнергию.

Реакция промышленности.

В ветке Hacker News обсуждаются плюсы и минусы использования различных типов батарей, включая свинцово-кислотные, LiFePo4 и твердотельные, для проектов солнечной энергетики, и говорится о том, что перед выбором типа батареи следует учитывать свои конкретные потребности и цели. Эксперты делятся мнениями о тестировании емкости и замене свинцово-кислотных батарей на литий-железо-фосфатные (LiFePO4), и хотя батареи LiFePO4 могут быть легче и быстрее заряжаться, их общая стоимость в течение срока службы все еще сопоставима со стоимостью свинцово-кислотных батарей. В других комментариях даются советы по созданию систем солнечной энергии, такие как использование источников питания USB-C, разделение мощности по фазам и использование компонентов 24 В или постоянного тока, а также предлагаются альтернативные решения, такие как ветряные турбины или панели в качестве кровли.

Продается история: Как обучение детей чтению пошло не по плану

Новости.

Журналистский проект American Public Media "Проданная история" (Sold a Story) опровергает современные методы обучения в школьных программах по чтению, которые основаны на давно опровергнутой идее о том, как дети учатся читать, первоначально выдвинутой Мари Клей. Однако продукты, использующие эти опровергнутые методы, продаются в школах по всей стране, компания Heinemann зарабатывает миллионы долларов, а родители, педагоги и законодатели призывают изменить систему. Статьи включают интервью с влиятельными педагогами и политиками, анализ исследований, а также методические материалы для педагогов и членов сообщества для обсуждения рассматриваемых тем.

Реакция промышленности.

Обсуждаются различные подходы к обучению детей чтению, такие как фоника и привлечение родителей, с акцентом на индивидуальное обучение и оценку. Педагоги и ученые спорят об эффективности фоники в сравнении с обучением по целым словам, и статья предостерегает от слепого доверия к мнению учителей. Обсуждение также включает рекомендации по полезным ресурсам для родителей, подчеркивается важность обучения фонетике для овладения навыками чтения, а качество образования в начальных школах в настоящее время является предметом споров.

Мусорная вечеринка Windows 11

Новости.

Автор статьи жалуется на содержимое, появляющееся по умолчанию в меню "Пуск" Windows 11, включая новости о массовой стрельбе, которые могут быть неприемлемы для детей, и мусор с домашней страницы MSN в оповещении о погоде. Хотя это содержимое можно отключить, в статье говорится, что в целом впечатления от Windows разочаровывают.

Industry Reactions.

Пользователи выражают озабоченность по поводу кризиса идентичности Microsoft и говорят о необходимости прояснить видение компании и ее ориентацию на то, чтобы стать ОС для корпораций. Выражается недовольство Windows 11, и некоторые предлагают использовать Linux в качестве альтернативы. Критикуются навязчивая реклама Windows, проблемы конфиденциальности и производительность. Для технически подкованных читателей, интересующихся критикой Windows 11, этот пост не имеет значения.

Ежемесячное количество сообщений в Fediverse впервые превысило 1 миллиард

News.

Ежемесячное количество сообщений в Fediverse впервые превысило 1 миллиард, согласно последнему анализу данных. Mastodon, децентрализованная социальная сеть на базе Masto.ai, может похвастаться 8,9 тыс. активных пользователей и предлагает такие функции, как следование хэштегам и профилям, избранное, совместное использование и ответы на сообщения.

Industry Reactions.

Децентрализованная социальная сеть Fediverse достигла отметки более миллиарда ежемесячных сообщений на различных платформах, а Mastodon стал заметной альтернативой Twitter. В то время как одни критикуют Mastodon за небольшую пользовательскую базу и отсутствие масштабируемости, другие высоко оценивают качество взаимодействия и атмосферу сообщества. Mastodon все еще пытается выиграть у Twitter из-за централизации, и точное количество ежедневных активных пользователей (DAU) неизвестно. Кроме того, Fediverse вызывает опасения по поводу возможностей поиска, дизайна UX и вопросов цензуры.

Сотрудники AWS тратят "большую часть своего времени на "оптимизацию облаков" клиентов".

Новости.

Сотрудники AWS помогают клиентам оптимизировать свои расходы на AWS, чтобы они могли пережить нестабильную экономическую ситуацию, говорится в ежегодном письме генерального директора Amazon.com Энди Джасси к акционерам. Хотя темпы роста AWS замедляются в связи с оптимизацией расходов клиентов, AWS все еще наблюдает активный рост числа новых клиентов и активных миграций. Джасси также упомянул о намерении AWS разрабатывать больше пользовательского кремния и о потенциале спутникового широкополосного сервиса Kuiper.

Реакция отрасли.

Сотрудники AWS тратят много времени на оптимизацию облаков клиентов, при этом отзывы о службе поддержки неоднозначны: от отличной базовой поддержки до проблем с различными уровнями поддержки клиентов. Компании могут испытывать трудности с наймом инженеров-инфраструктурщиков с необходимыми знаниями, а переход на облако может привести к потере знаний о работе с центрами обработки данных. Местная инфраструктура требует значительных затрат, а управление несколькими центрами обработки данных может быть болезненным, в то время как сложные облачные архитектуры могут создать ненужные операционные нагрузки. Экономическая эффективность облачных вычислений по сравнению с локальными вычислениями является предметом споров, при этом скачкообразные или непредсказуемые нагрузки говорят в пользу облачных вычислений. AWS конкурирует с более мелкими и дешевыми облачными провайдерами, а разработчики борются со сложным развертыванием, операционной поддержкой и оптимизацией затрат. Облачные вычисления стали дорогими, и компании отказываются от них в зависимости от их использования, но мало кто переходит на локальную установку из-за отсутствия необходимых навыков.

Летные испытания звездолета [видео]

Новости.

• Последний прототип звездолета компании SpaceX, SN10, успешно завершил высотный испытательный полет и посадку, став первым кораблем, который приземлился без взрыва.
• SN10 смог подняться на высоту 10 километров и совершить спуск на брюхе до места посадки, но пожар после посадки нанес ущерб ракете.
• Генеральный директор SpaceX Элон Маск объявил, что компания будет уделять первоочередное внимание разработке ракеты-носителя Super Heavy в паре со звездолетом для орбитальных полетов.

Реакция промышленности.

SpaceX планирует запустить Starship через 48 часов после прерванного летного испытания из-за проблемы с клапаном давления; пользователи на Hacker News спорят о рынке и прибыльности Starship, но в статье обсуждается потенциальный сдвиг парадигмы в экономике космических путешествий, если ракета окажется многоразовой, как предсказывает Маск. Комментарии также вращаются вокруг центральной темы влияния запуска на часовые пояса США, и высказываются опасения, что протестующие помешают испытаниям SpaceX.