SCALE by Spectral Compute é um kit de ferramentas de programação GPGPU (Computação de Propósito Geral em Unidades de Processamento Gráfico) que permite a compilação nativa de aplicações CUDA para GPUs AMD sem modificar o código CUDA original ou o sistema de construção.
SCALE atua como um substituto direto para o compilador nvcc da NVIDIA, permitindo uma integração perfeita com ferramentas de construção e scripts existentes, e suporta vários projetos CUDA de código aberto, como NVIDIA Thrust e Blender Cycles.
Atualmente, o SCALE suporta GPUs AMD como gfx1030 (Navi 21, RDNA 2.0) e gfx1100 (Navi 31, RDNA 3.0), com desenvolvimento contínuo para arquiteturas adicionais de GPU.
A discussão centra-se na viabilidade e nas implicações de executar CUDA (Compute Unified Device Architecture) em GPUs AMD, destacando desafios técnicos e legais.
Alguns argumentam que apoiar camadas de tradução para CUDA em GPUs AMD é impraticável e sugerem focar em projetos de código aberto como o PyTorch.
HIP (Heterogeneous-Compute Interface for Portability) é mencionada como uma solução potencial de baixo esforço para portar código CUDA para GPUs AMD, embora não seja totalmente sem esforço.
Na versão mais recente do Firefox, agora são coletados dados dos usuários por padrão, introduzindo a Atribuição Preservadora de Privacidade (PPA) para medição de anúncios anonimizados, o que gerou controvérsia.
Críticos argumentam que essa coleta de dados padrão mina a confiança dos usuários e suspeitam que a intenção da Mozilla seja aumentar a receita, desafiando a reputação do Firefox em relação à privacidade.
As PPA usa um servidor de agregação para anonimizar dados, mas persistem preocupações sobre os dados saírem dos computadores dos usuários e o possível acesso futuro por anunciantes.
Firefox começou a coletar dados dos usuários por padrão para fins publicitários, o que pode ser desativado nas configurações em Privacidade e Segurança.
Os usuários relataram que a configuração para desativar esse recurso não é facilmente localizável e não sincroniza entre dispositivos.
CTO da Mozilla afirma que o recurso equilibra privacidade e medição de anúncios, mas o ceticismo e a crítica dos usuários persistem.
Exo permite que os usuários criem um cluster de IA em casa usando dispositivos do dia a dia, como iPhones, iPads, Androids, Macs e sistemas Linux, eliminando a necessidade de GPUs NVIDIA caras.
Os principais recursos incluem suporte amplo a modelos (por exemplo, LLaMA), particionamento dinâmico de modelos, descoberta automática de dispositivos e uma API compatível com ChatGPT, tudo utilizando uma conexão peer-to-peer sem uma arquitetura mestre-trabalhador.
Exo é um software experimental, portanto, os usuários devem esperar bugs iniciais e são incentivados a relatar problemas e contribuir com a comunidade.
Exo permite que os usuários executem seus próprios clusters de IA em casa usando dispositivos do dia a dia, oferecendo uma alternativa à computação de IA baseada em nuvem.
A iniciativa suporta diversos hardwares, incluindo telefones e laptops antigos, e visa oferecer privacidade, personalização e acesso offline para modelos de IA.
Discussões destacam os prós e contras entre modelos de IA locais e na nuvem, incluindo custo, desempenho e privacidade, com alguns usuários preferindo configurações locais para dados pessoais ou sensíveis.
James, um engenheiro full-stack de 17 anos do Canadá, desenvolveu o Horizon Pics, um serviço de hospedagem de arquivos focado em segurança, privacidade e necessidades dos usuários, sem anúncios ou venda de dados.
Recentemente, a Horizon Pics passou por uma reformulação de marca e lançou um novo aplicativo para desktop chamado Alpine, que faz upload automático de capturas de tela e conteúdo da área de transferência, oferecendo recursos como exclusão automática e criptografia de ponta a ponta.
A aplicação é construída com tecnologias modernas como Tauri, TypeScript, SvelteKit, Sass e Rust, e o Horizon Pics oferece planos gratuitos e pagos com diferentes limites de armazenamento.
Horizon Pics, desenvolvido por um engenheiro full-stack de 17 anos do Canadá, é uma alternativa privada ao Imgur, oferecendo hospedagem de arquivos sem anúncios e segura.
A empresa recentemente lançou uma reformulação da marca, incluindo um novo aplicativo para desktop chamado Alpine, que faz upload automático de capturas de tela e áreas de transferência com opções de privacidade.
Horizon Pics oferece tanto um plano gratuito com armazenamento limitado quanto um plano pago com limites mais altos, visando atrair usuários que buscam soluções de hospedagem de arquivos focadas na privacidade.
A nova reportagem da FTC expõe como alguns conglomerados de saúde, comparados a uma máfia, controlam 4% de todo o dinheiro dos EUA através da precificação de medicamentos.
Os Gerentes de Benefícios de Farmácia (PBMs) são identificados como atores-chave na inflação dos preços dos medicamentos ao controlar os preços e redirecionar fundos para si mesmos.
Ações da FTC e possíveis mudanças legislativas visam abordar a monopolização dos preços farmacêuticos pelos PBMs, o que levou a custos significativamente inflacionados.
A postagem discute práticas antiéticas na indústria farmacêutica, particularmente envolvendo os Gerentes de Benefícios de Farmácia (PBMs) e as empresas de medicamentos.
Questões-chave incluem a venda de dados de prescrição, "rebates" legais que funcionam como subornos e a influência de incentivos financeiros em diagnósticos e prescrições médicas.
A conversa destaca a necessidade de transparência e regulamentação para abordar distorções de mercado e proteger os pacientes de comportamentos antiéticos e preços inflacionados de medicamentos.
As documentações, 'O Guia do Engenheiro para Aprendizado Profundo,' fornecem um guia abrangente para entender o modelo Transformer, um avanço significativo em IA introduzido em 2017.
Ele inclui conceitos fundamentais de redes neurais, RNNs (Redes Neurais Recorrentes), PLN (Processamento de Linguagem Natural) e mecanismos de atenção, com exemplos de código Python funcionais e referências para exploração adicional.
Publicado em 21 de maio de 2024, é gratuito para uso educacional e não comercial, escrito por Hironobu SUZUKI, um experiente programador de software e entusiasta de IA.
Este post discute vários recursos para entender o modelo Transformer em aprendizado profundo, destacando opções gratuitas e pagas.
Recomendações incluem 'The Annotated Transformer', 'Transformers from Scratch', a série de Andrej Karpathy e as introduções visuais de 3Blue1Brown.
Há um debate sobre a relevância do Keras, com alguns usuários observando seu declínio na academia e na indústria em favor do JAX, enquanto outros mencionam o suporte do Keras 3 para múltiplos backends.
Em 16 de julho de 2024, a Mistral AI apresentou o Codestral Mamba, uma nova arquitetura desenvolvida com Albert Gu e Tri Dao, oferecendo inferência em tempo linear e a capacidade de modelar sequências de comprimento infinito.
Codestral Mamba é eficiente para a produtividade de código, tem desempenho comparável aos modelos transformadores de última geração (SOTA) e suporta recuperação em contexto de até 256k tokens.
As modelos são implantáveis por meio de vários SDKs, com pesos brutos disponíveis no HuggingFace, e são gratuitos sob a licença Apache 2.0, enquanto o Codestral 22B possui licenças comerciais e comunitárias.
Codestral Mamba, um novo modelo da Mistral.ai, foi lançado e está gerando interesse devido à sua arquitetura e capacidades únicas.
O modelo suporta 256k tokens de contexto e oferece tempo de inferência linear, tornando-o competitivo com modelos baseados em transformadores.
Há uma discussão em andamento sobre a integração do Codestral Mamba com ambientes de desenvolvimento como VS Code e IntelliJ, mas o suporte atual é limitado.
Peter Buxtun, o denunciante que expôs o estudo antiético de sífilis de Tuskegee, faleceu aos 86 anos.
Revelação de Buxtun levou ao término do estudo em 1972, audiências no congresso e um acordo de $10 milhões para as vítimas.
Seu comparativo do estudo com os experimentos médicos nazistas levou à criação de novas regulamentações governamentais de pesquisa, destacando seu impacto significativo nos padrões éticos da pesquisa médica.
Peter Buxtun, o denunciante que expôs o estudo antiético de sífilis de Tuskegee, faleceu.
Preocupações de Buxtun sobre o estudo, que negava tratamento a homens afro-americanos com sífilis, foram ignoradas por seis anos antes de ganharem atenção.
As repercussões do estudo de Tuskegee são duradouras, incluindo a contribuição para a hesitação em relação a vacinas nas comunidades afro-americanas e a evidência do racismo sistêmico na pesquisa médica.
Justin St. Germain explora as linhas tênues entre memória, memórias pessoais e mito através de sua experiência com um teste de polígrafo durante uma candidatura a emprego na Alfândega e Proteção de Fronteiras.
Ele argumenta que o polígrafo, muitas vezes visto como um detector de mentiras, na verdade cria, em vez de detectar a verdade, traçando paralelos com a escrita de memórias.
Germain discute a história controversa do polígrafo, seu uso na coerção de confissões e seu papel simbólico na afirmação do poder estatal, destacando suas falhas e a obsessão americana por uma verdade simples e detectável.
A autora relata ter feito um teste de polígrafo aos dezenove anos devido a suspeitas de roubo no trabalho, apesar de ser inocente.
Os polígrafo são criticados por seu uso na coerção de confissões em vez de detectar mentiras com precisão, frequentemente levando ao estresse e a resultados não confiáveis.
Apesar de sua precisão questionável, os polígrafo continuam a ser usados em triagens de emprego e investigações criminais como uma ferramenta de intimidação.
A autora experimentou instalar Linux em um Surface Pro 4, originalmente comprado em 2016, para explorar sua viabilidade para vários casos de uso, como navegação na internet, consumo de mídia e desenho.
Instalar o Linux foi simples usando EndeavourOS e Fedora Workstation 40, mas a funcionalidade do tablet foi problemática, com problemas como toque fantasma, rejeição de palma deficiente e drenagem significativa da bateria durante o modo de suspensão.
Devido a esses problemas, o autor voltou para o Windows 10, achando-o mais funcional para suas necessidades, mas pode reconsiderar o Linux após o fim do suporte ao Windows 10 no próximo ano.
A análise de rodar Linux em um Surface Pro 4 gerou uma discussão significativa, destacando várias experiências de usuários com Linux em diferentes hardwares.
Muitos usuários comparam suas experiências com Linux em outros dispositivos, como Dell XPS e ThinkPads, observando problemas como suspensão, gerenciamento de energia e integração de hardware.
A conversa destaca os desafios de alcançar uma integração perfeita entre hardware e software no Linux, semelhante ao macOS em MacBooks, devido às complexidades no desenvolvimento de drivers de dispositivos.
Gary Williams, da Mastermelt, gerencia a queima de resíduos comerciais para recuperar metais preciosos, com joalheiros coletando cada partícula de pó de ouro de suas oficinas para processamento.
Ao processo envolve aquecer materiais a 2.000°C para recuperar metais como ouro e platina, com técnicas e tecnologias avançadas ajudando na captura de mais resíduos.
Confiança entre joalheiros e refinadores é crucial, e a indústria continuamente aprimora métodos para maximizar a recuperação de metais preciosos.
Joalheiros empregam métodos meticulosos para capturar cada partícula de poeira de ouro, incluindo a atualização de janelas, lavanderia no local e arrancar pisos.
Essas práticas são reminiscentes de esforços históricos, como a recuperação de prata do Projeto Manhattan a partir de pisos e equipamentos.
Joalheiros em cidades como Sydney e Nova York recuperam ouro dos pisos das oficinas e das calçadas, enfatizando a engenhosidade da indústria e a perda mínima de material.
Open Collaboration Tools é um projeto de código aberto que visa melhorar o trabalho em equipe remoto através do compartilhamento ao vivo de conteúdos do Ambiente de Desenvolvimento Integrado (IDE).
Os principais recursos incluem extensões para VS Code e Eclipse Theia, um aplicativo de servidor para autenticação e colaboração, e um protocolo aberto com criptografia de ponta a ponta.
As lacunas nos instrumentos existentes são abordadas pelo projeto ao oferecer ausência de dependência de fornecedor, extensibilidade absoluta, opções de implantação flexíveis e licenciamento de código aberto sob a Licença MIT.
Ferramentas de Colaboração Aberta da TypeFox estão ganhando atenção, especialmente entre os usuários do openvscode-server e Eclipse Theia, devido ao seu potencial para melhorar a colaboração remota.
Ferramentas da TypeFox, incluindo Sprotty, Langium e Theia, estão sendo destacadas, com especulações de que Theia possa substituir o openvscode-server se cumprir suas promessas.
Na discussão, há interesse na escalabilidade e prontidão de um provedor YJS para edição colaborativa, e comparações com outros métodos de colaboração como compartilhamento de tela e VS Live Share.
Denunciantes da OpenAI apresentaram uma queixa à SEC, alegando que a empresa restringiu ilegalmente os funcionários de alertar os reguladores sobre os riscos de sua tecnologia.
A queixa alega que os acordos de emprego da OpenAI violaram leis federais ao exigir que os funcionários renunciassem aos direitos de compensação de denunciantes e buscassem o consentimento da empresa antes de divulgar informações às autoridades.
OpenAI declarou que apoia divulgações protegidas e revisou suas políticas, enquanto a SEC reconheceu a queixa, mas não confirmou uma investigação.
Denunciantes afirmam que a OpenAI restringiu os funcionários de discutirem riscos de segurança, levantando preocupações sobre o uso de acordos de confidencialidade (NDAs) pela empresa.
Críticos argumentam que a ênfase da OpenAI nos "riscos de segurança" pode ser mais sobre estratégias de marketing e regulamentação do que ameaças genuínas, paralelamente às táticas usadas por outras empresas de tecnologia.
As discussões se estendem às implicações éticas do desenvolvimento de IA, incluindo o uso de modelos tendenciosos e o impacto mais amplo da regulamentação da IA.
KUtrace é uma ferramenta de rastreamento de kernel Linux de baixo overhead projetada para analisar o desempenho rastreando transições entre kernel e usuário.
Ele produz cronogramas detalhados por núcleo de CPU que podem ser ampliados até o nanossegundo, ajudando a resolver problemas de desempenho em datacenters e na condução autônoma em tempo real.
A ferramenta suporta processadores x86 e ARM, é de código aberto sob várias licenças e inclui arquivos do livro 'Understanding Software Dynamics' de Richard L. Sites.
KUtrace é uma ferramenta de rastreamento de kernel Linux de baixo overhead projetada para ajudar a entender gargalos de desempenho, especialmente em sistemas multi-máquina.
Ao contrário das ferramentas eBPF, o KUtrace requer patches no kernel e acesso root, necessitando de manutenção ativa.
A ferramenta é elogiada por sua eficácia, com recomendações para o livro 'Understanding Software Dynamics' de seu autor, Dick Sites, para mais insights sobre o desempenho do sistema.
Andrej Karpathy está começando uma empresa de IA+Educação, provocando discussões sobre o papel da IA na educação.
Opiniões variam sobre o potencial da IA, com alguns argumentando que ela pode auxiliar, mas não substituir professores, enquanto outros acreditam que a IA pode aprimorar e personalizar experiências de aprendizagem.
A discussão destaca o cenário em evolução da tecnologia educacional, enfatizando a necessidade de soluções inovadoras para melhorar o ensino e a aprendizagem.