Перейти к основному содержимому

2024-07-16

Запускайте CUDA, без изменений, на графических процессорах AMD

  • Система SCALE от Spectral Compute представляет собой набор инструментов для программирования GPGPU (общего назначения на графических процессорах), который позволяет нативную компиляцию приложений CUDA для графических процессоров AMD без изменения исходного кода CUDA или системы сборки.
  • Система SCALE выступает в качестве замены компилятора NVIDIA nvcc, обеспечивая бесшовную интеграцию с существующими инструментами сборки и скриптами, и поддерживает различные открытые проекты CUDA, такие как NVIDIA Thrust и Blender Cycles.
  • В настоящее время SCALE поддерживает графические процессоры AMD, такие как gfx1030 (Navi 21, RDNA 2.0) и gfx1100 (Navi 31, RDNA 3.0), при этом ведется разработка для дополнительных архитектур графических процессоров.

Реакции

  • Обсуждение сосредоточено на возможности и последствиях запуска CUDA (Compute Unified Device Architecture) на графических процессорах AMD, подчеркивая технические и юридические проблемы.
  • Некоторые утверждают, что поддержка слоев перевода для CUDA на графических процессорах AMD непрактична и предлагают сосредоточиться на таких проектах с открытым исходным кодом, как PyTorch.
  • Упоминается, что HIP (Heterogeneous-Compute Interface for Portability) является потенциальным решением с низкими затратами для переноса кода CUDA на графические процессоры AMD, хотя это не совсем решение без усилий.

«Для рекламы Firefox теперь по умолчанию собирает данные пользователей»

  • Последняя версия Firefox теперь по умолчанию собирает данные пользователей, вводя атрибуцию с сохранением конфиденциальности (PPA) для анонимного измерения рекламы, что вызвало споры.
  • Критики утверждают, что этот сбор данных по умолчанию подрывает доверие пользователей и ставит под сомнение намерения Mozilla по увеличению доходов, что бросает вызов репутации Firefox в области конфиденциальности.
  • ППА использует сервер агрегации для анонимизации данных, но сохраняются опасения по поводу передачи данных с компьютеров пользователей и возможного будущего доступа рекламодателей.

Реакции

  • Firefox начал собирать данные пользователей по умолчанию для рекламных целей, что можно отключить в настройках в разделе Конфиденциальность и безопасность.
  • Пользователи сообщили, что настройка для отключения этой функции не легко находится и не синхронизируется между устройствами.
  • Технический директор Mozilla утверждает, что эта функция уравновешивает конфиденциальность и измерение рекламы, но скептицизм и критика со стороны пользователей сохраняются.

Exo: Запустите свой собственный кластер ИИ дома с помощью повседневных устройств

  • Exo позволяет пользователям создавать кластер ИИ дома, используя повседневные устройства, такие как iPhone, iPad, Android, Mac и системы на базе Linux, исключая необходимость в дорогих графических процессорах NVIDIA.
  • Ключевые особенности включают широкую поддержку моделей (например, LLaMA), динамическое разделение моделей, автоматическое обнаружение устройств и совместимый с ChatGPT API, все это с использованием однорангового соединения без архитектуры мастер-рабочий.
  • Exo — это экспериментальное программное обеспечение, поэтому пользователи должны ожидать ранних ошибок и им рекомендуется сообщать о проблемах и вносить свой вклад в сообщество.

Реакции

  • Exo позволяет пользователям запускать собственные кластеры ИИ дома, используя повседневные устройства, предлагая альтернативу облачным вычислениям ИИ.
  • Проект поддерживает различное оборудование, включая старые телефоны и ноутбуки, и направлен на обеспечение конфиденциальности, настройки и офлайн-доступа для моделей ИИ.
  • Обсуждения подчеркивают компромиссы между локальными и облачными моделями ИИ, включая стоимость, производительность и конфиденциальность, при этом некоторые пользователи предпочитают локальные настройки для личных или конфиденциальных данных.

«Horizon – частная альтернатива Imgur»

  • Джеймс, 17-летний full-stack инженер из Канады, разработал Horizon Pics, сервис для хостинга файлов, ориентированный на безопасность, конфиденциальность и потребности пользователей, без рекламы и продажи данных.
  • Недавно Horizon Pics провела ребрендинг и запустила новое настольное приложение под названием Alpine, которое автоматически загружает снимки экрана и содержимое буфера обмена, предлагая такие функции, как автоматическое удаление и сквозное шифрование.
  • Приложение создано с использованием современных технологий, таких как Tauri, TypeScript, SvelteKit, Sass и Rust, а Horizon Pics предлагает как бесплатные, так и платные планы с различными лимитами хранения.

Реакции

  • Разработанный 17-летним инженером полного стека из Канады, Horizon Pics является частной альтернативой Imgur, предлагая размещение файлов без рекламы и с высокой степенью безопасности.
  • «Сервис недавно запустил ребрендинг, включая новое настольное приложение под названием Alpine, которое автоматически загружает снимки экрана и буферы обмена с настройками конфиденциальности.»
  • Компания Horizon Pics предлагает как бесплатный план с ограниченным объемом хранилища, так и платный план с более высокими лимитами, стремясь привлечь пользователей, ищущих решения для хостинга файлов с акцентом на конфиденциальность.

Мафия ценообразования в фармацевтике

  • Новый отчет Федеральной торговой комиссии раскрывает, как несколько медицинских конгломератов, сравниваемых с мафией, контролируют 4% всех денег в США через ценообразование на фармацевтические препараты.
  • Менеджеры по управлению льготами на лекарства (PBM) определены как ключевые игроки, завышающие цены на лекарства, контролируя ценообразование и перенаправляя средства на себя.
  • Действия Федеральной торговой комиссии и возможные законодательные изменения направлены на борьбу с монополизацией ценообразования на фармацевтические препараты со стороны управляющих аптечными льготами, что привело к значительному увеличению стоимости.

Реакции

  • Пост обсуждает неэтичные практики в фармацевтической индустрии, особенно связанные с менеджерами по льготам в аптеках (PBM) и фармацевтическими компаниями.
  • Ключевые вопросы включают продажу данных о рецептах, законные «скидки», которые функционируют как откаты, и влияние финансовых стимулов на медицинские диагнозы и назначения.
  • Разговор подчеркивает необходимость прозрачности и регулирования для устранения рыночных искажений и защиты пациентов от неэтичного поведения и завышенных цен на лекарства.

«Руководство инженера по глубокому обучению: понимание модели трансформера»

  • Документ «Руководство инженера по глубокому обучению» представляет собой исчерпывающее руководство по пониманию модели Transformer, значительного прорыва в области ИИ, представленного в 2017 году.
  • «Он включает в себя основные концепции нейронных сетей, рекуррентных нейронных сетей (RNN), обработки естественного языка (NLP) и механизмов внимания, с примерами рабочего кода на Python и ссылками для дальнейшего изучения.»
  • Выпущено 21 мая 2024 года, бесплатно для образовательного и некоммерческого использования, автором является Хиронобу СУЗУКИ, опытный программист и энтузиаст в области ИИ.

Реакции

  • Пост обсуждает различные ресурсы для понимания модели Transformer в глубоком обучении, выделяя бесплатные и платные варианты.
  • «Рекомендации включают "The Annotated Transformer", "Transformers from Scratch", серию Андрея Карпатия и визуальные введения от 3Blue1Brown.»
  • «Существует дискуссия о значимости Keras: некоторые пользователи отмечают его снижение в академической среде и индустрии, отдающей предпочтение JAX, в то время как другие упоминают поддержку Keras 3 для нескольких бэкендов.»

Кодестральная Мамба

  • 16 июля 2024 года компания Mistral AI представила Codestral Mamba, новую архитектуру, разработанную совместно с Альбертом Гу и Три Дао, предлагающую линейное время вывода и возможность моделирования последовательностей бесконечной длины.
  • Codestral Mamba эффективен для повышения продуктивности кода, работает на уровне современных трансформерных моделей (SOTA) и поддерживает извлечение в контексте до 256 тысяч токенов.
  • «Модель доступна для развертывания через различные SDK, с исходными весами, доступными на HuggingFace, и является бесплатной по лицензии Apache 2.0, в то время как Codestral 22B имеет коммерческие и общественные лицензии.»

Реакции

  • «Кодестрал Мамба, новая модель от Mistral.ai, была выпущена и вызывает интерес благодаря своей уникальной архитектуре и возможностям.»
  • Модель поддерживает 256k контекстных токенов и предлагает линейное время вывода, что делает её конкурентоспособной с моделями на основе трансформеров.
  • Ведутся обсуждения о интеграции Codestral Mamba с средами разработки, такими как VS Code и IntelliJ, но текущая поддержка ограничена.

Питер Бакстун, разоблачитель, который раскрыл исследование сифилиса в Таскиги, умер

  • «Питер Бакстун, разоблачитель, который раскрыл неэтичное исследование сифилиса в Таскиги, скончался в возрасте 86 лет.»
  • Откровение Бакстона привело к прекращению исследования в 1972 году, проведению слушаний в Конгрессе и выплате компенсации в размере 10 миллионов долларов жертвам.
  • Его сравнение исследования с нацистскими медицинскими экспериментами привело к введению новых правительственных регламентов исследований, что подчеркивает его значительное влияние на этические стандарты в медицинских исследованиях.

Реакции

  • «Питер Бакстун, разоблачитель, который раскрыл неэтичное исследование сифилиса в Таскиги, скончался.»
  • Опасения Бакстона по поводу исследования, в рамках которого афроамериканским мужчинам с сифилисом не предоставлялось лечение, игнорировались в течение шести лет, прежде чем привлекли внимание.
  • Тускегийское исследование оказало длительное воздействие, включая вклад в недоверие к вакцинам в афроамериканских сообществах и подчеркивание системного расизма в медицинских исследованиях.

Заблуждение о полиграфе

  • Джастин Сент-Джермен исследует размытые границы между памятью, мемуарами и мифом через свой опыт с полиграфом во время подачи заявления на работу в Таможенную и пограничную службу.
  • «Он утверждает, что полиграф, часто воспринимаемый как детектор лжи, на самом деле создает, а не выявляет правду, проводя параллели с написанием мемуаров.»
  • Жермен обсуждает противоречивую историю полиграфа, его использование для принуждения к признаниям и его символическую роль в утверждении государственной власти, подчеркивая его недостатки и американскую одержимость простой, обнаруживаемой правдой.

Реакции

  • Автор вспоминает, как в девятнадцать лет проходил тест на полиграфе из-за подозрений в краже на работе, несмотря на свою невиновность.
  • «Полиграфы критикуются за их использование для принуждения к признаниям, а не для точного выявления лжи, что часто приводит к стрессу и ненадежным результатам.»
  • «Несмотря на их сомнительную точность, полиграфы продолжают использоваться при проверке кандидатов на работу и в уголовных расследованиях как инструмент запугивания.»

«Обзор Linux на Surface Pro 4»

  • Автор экспериментировал с установкой Linux на Surface Pro 4, изначально приобретенный в 2016 году, чтобы исследовать его пригодность для различных случаев использования, таких как интернет-серфинг, потребление медиа и рисование.
  • Установка Linux была простой с использованием EndeavourOS и Fedora Workstation 40, но функциональность планшета была проблематичной, с такими проблемами, как фантомные касания, плохое распознавание ладони и значительный разряд батареи во время сна.
  • Из-за этих проблем автор вернулся к Windows 10, посчитав её более функциональной для своих нужд, но может пересмотреть использование Linux после окончания срока службы Windows 10 в следующем году.

Реакции

  • «Обзор использования Linux на Surface Pro 4 вызвал значительные обсуждения, подчеркивая различные пользовательские впечатления от работы с Linux на разном оборудовании.»
  • Многие пользователи сравнивают свой опыт работы с Linux на других устройствах, таких как Dell XPS и ThinkPad, отмечая проблемы со сном, управлением питанием и интеграцией оборудования.
  • «Разговор подчеркивает сложности достижения бесшовной интеграции аппаратного и программного обеспечения на Linux, аналогичной macOS на MacBook, из-за сложностей разработки драйверов устройств.»

Как ювелиры улавливают каждую частицу золотой пыли? (2017)

  • «Гэри Уильямс из Mastermelt управляет сжиганием коммерческих отходов для извлечения драгоценных металлов, при этом ювелиры собирают каждую частицу золотой пыли из своих мастерских для переработки.»
  • Процесс включает нагрев материалов до 2000°C для извлечения таких металлов, как золото и платина, с использованием передовых методов и технологий, способствующих улавливанию большего количества отходов.
  • Доверие между ювелирами и аффинажными заводами имеет решающее значение, и отрасль постоянно совершенствует методы для максимального извлечения драгоценных металлов.

Реакции

  • Ювелиры используют тщательные методы, чтобы собрать каждую частицу золотой пыли, включая модернизацию окон, стирку на месте и разборку полов.
  • «Эти практики напоминают исторические усилия, такие как рекламация серебра с полов и оборудования в рамках Манхэттенского проекта.»
  • Ювелиры в таких городах, как Сидней и Нью-Йорк, извлекают золото с полов мастерских и тротуаров, подчеркивая находчивость отрасли и минимальные потери материалов.

Инструменты открытого сотрудничества

  • Open Collaboration Tools — это проект с открытым исходным кодом, направленный на улучшение удаленной командной работы посредством совместного использования содержимого интегрированной среды разработки (IDE) в реальном времени.
  • Ключевые функции включают расширения для VS Code и Eclipse Theia, серверное приложение для аутентификации и совместной работы, а также открытый протокол с сквозным шифрованием.
  • Проект устраняет недостатки существующих инструментов, предлагая отсутствие привязки к поставщику, абсолютную расширяемость, гибкие варианты развертывания и лицензию с открытым исходным кодом по лицензии MIT.

Реакции

  • Инструменты для открытого сотрудничества от TypeFox привлекают внимание, особенно среди пользователей openvscode-server и Eclipse Theia, благодаря своему потенциалу для улучшенного удаленного сотрудничества.
  • Инструменты TypeFox, включая Sprotty, Langium и Theia, находятся в центре внимания, при этом существует предположение, что Theia может заменить openvscode-server, если выполнит свои обещания.
  • Обсуждение включает интерес к масштабируемости и готовности провайдера YJS для совместного редактирования, а также сравнения с другими методами сотрудничества, такими как совместное использование экрана и VS Live Share.

Сотрудники OpenAI заявляют, что компания незаконно запрещала им сообщать о рисках безопасности

  • Информаторы OpenAI подали жалобу в SEC, утверждая, что компания незаконно ограничивала сотрудников в предупреждении регуляторов о рисках своей технологии.
  • Жалоба утверждает, что трудовые соглашения OpenAI нарушили федеральные законы, требуя от сотрудников отказаться от права на компенсацию за разоблачение и получать согласие компании перед раскрытием информации властям.
  • OpenAI заявила, что поддерживает защищенные раскрытия информации и пересмотрела свои политики, в то время как SEC признала жалобу, но не подтвердила проведение расследования.

Реакции

  • Информаторы утверждают, что OpenAI запретила сотрудникам обсуждать риски безопасности, что вызывает обеспокоенность по поводу использования компанией соглашений о неразглашении (NDA).
  • Критики утверждают, что акцент OpenAI на «рисках безопасности» может быть больше связан с маркетинговыми и регуляторными стратегиями, чем с реальными угрозами, что напоминает тактику, используемую другими технологическими компаниями.
  • Дебаты охватывают этические последствия развития ИИ, включая использование предвзятых моделей и более широкий эффект регулирования ИИ.

KUtrace: низконакладная система трассировки ядра Linux

  • KUtrace — это инструмент трассировки ядра Linux с низкими накладными расходами, предназначенный для анализа производительности путем отслеживания переходов между ядром и пользователем.
  • Он создает детализированные временные шкалы для каждого ядра процессора, которые можно увеличивать до наносекунды, что помогает решать проблемы с производительностью в дата-центрах и системах автономного вождения в реальном времени.
  • Инструмент поддерживает процессоры x86 и ARM, является открытым исходным кодом под различными лицензиями и включает файлы из книги «Понимание динамики программного обеспечения» Ричарда Л. Сайтса.

Реакции

  • KUtrace — это низконагрузочное средство трассировки ядра Linux, предназначенное для понимания узких мест в производительности, особенно в многомашинных системах.
  • «В отличие от инструментов eBPF, KUtrace требует патчей ядра и доступа root, что требует активного обслуживания.»
  • Инструмент хвалят за его эффективность, с рекомендациями книги «Понимание динамики программного обеспечения» автора Дика Сайтса для получения дополнительных сведений о производительности системы.

Я начинаю компанию в сфере ИИ и образования

  • Andrej Karpathy объявил о запуске своей новой компании Eureka Labs, которая сосредоточена на интеграции ИИ с образованием.
  • Цель Eureka Labs - создать школу, ориентированную на ИИ, чтобы революционизировать процесс обучения.
  • Объявление было сделано через твит, вызвав значительный интерес в технологическом и образовательном сообществах.

Реакции

  • «Андрей Карпаты начинает компанию AI+Education, вызывая обсуждения о роли ИИ в образовании.»
  • Мнения о потенциале ИИ разнятся: одни утверждают, что он может помогать, но не заменять учителей, в то время как другие считают, что ИИ может улучшить и персонализировать учебный процесс.
  • Дебаты подчеркивают изменяющийся ландшафт образовательных технологий, акцентируя внимание на необходимости инновационных решений для улучшения преподавания и обучения.