Passa al contenuto principale

2024-07-16

Usa CUDA, senza modifiche, su GPU AMD

  • SCALE di Spectral Compute è un toolkit di programmazione GPGPU (General-Purpose computing on Graphics Processing Units) che consente la compilazione nativa delle applicazioni CUDA per GPU AMD senza modificare il codice CUDA originale o il sistema di build.
  • SCALE funge da sostituto diretto del compilatore nvcc di NVIDIA, consentendo un'integrazione senza soluzione di continuità con gli strumenti di build e gli script esistenti, e supporta vari progetti CUDA open-source come NVIDIA Thrust e Blender Cycles.
  • Attualmente, SCALE supporta le GPU AMD come gfx1030 (Navi 21, RDNA 2.0) e gfx1100 (Navi 31, RDNA 3.0), con uno sviluppo in corso per ulteriori architetture GPU.

Reazioni

  • Il dibattito si concentra sulla fattibilità e le implicazioni dell'esecuzione di CUDA (Compute Unified Device Architecture) su GPU AMD, evidenziando sfide tecniche e legali.
  • Alcuni sostengono che supportare i livelli di traduzione per CUDA su GPU AMD sia impraticabile e suggeriscono di concentrarsi invece su progetti open-source come PyTorch.
  • HIP (Heterogeneous-Compute Interface for Portability) è menzionato come una potenziale soluzione a basso sforzo per portare il codice CUDA su GPU AMD, anche se non è completamente a sforzo zero.

Per la pubblicità, Firefox ora raccoglie i dati degli utenti per impostazione predefinita

  • Firefox nella sua ultima versione ora raccoglie i dati degli utenti per impostazione predefinita, introducendo l'Attribuzione a Tutela della Privacy (PPA) per la misurazione anonima degli annunci, il che ha suscitato polemiche.
  • Critici sostengono che questa raccolta di dati predefinita comprometta la fiducia degli utenti e sospettano che l'intenzione di Mozilla sia quella di aumentare i ricavi, mettendo in discussione la reputazione di Firefox per la privacy.
  • Il PPA utilizza un server di aggregazione per anonimizzare i dati, ma permangono preoccupazioni riguardo ai dati che lasciano i computer degli utenti e al potenziale accesso futuro da parte degli inserzionisti.

Reazioni

  • Firefox ha iniziato a raccogliere dati degli utenti per scopi pubblicitari per impostazione predefinita, cosa che può essere disabilitata nelle impostazioni sotto Privacy e Sicurezza.
  • Gli utenti hanno segnalato che l'impostazione per disabilitare questa funzione non è facilmente reperibile e non si sincronizza tra i dispositivi.
  • Il CTO di Mozilla afferma che la funzionalità bilancia la privacy e la misurazione degli annunci, ma il scetticismo e le critiche degli utenti persistono.

Exo: Gestisci il tuo cluster di intelligenza artificiale a casa con dispositivi di uso quotidiano

  • Exo consente agli utenti di creare un cluster AI a casa utilizzando dispositivi di uso quotidiano come iPhone, iPad, Android, Mac e sistemi Linux, eliminando la necessità di costose GPU NVIDIA.
  • Le caratteristiche principali includono il supporto per un'ampia gamma di modelli (ad esempio, LLaMA), il partizionamento dinamico dei modelli, la scoperta automatica dei dispositivi e un'API compatibile con ChatGPT, il tutto utilizzando una connessione peer-to-peer senza un'architettura master-worker.
  • Exo è un software sperimentale, quindi gli utenti dovrebbero aspettarsi bug iniziali e sono incoraggiati a segnalare problemi e contribuire alla comunità.

Reazioni

  • Exo consente agli utenti di gestire i propri cluster di intelligenza artificiale a casa utilizzando dispositivi di uso quotidiano, offrendo un'alternativa al calcolo AI basato su cloud.
  • Il progetto supporta vari hardware, inclusi vecchi telefoni e laptop, e mira a offrire privacy, personalizzazione e accesso offline per i modelli di intelligenza artificiale.
  • Le discussioni evidenziano i compromessi tra modelli di intelligenza artificiale locali e cloud, inclusi costi, prestazioni e privacy, con alcuni utenti che preferiscono configurazioni locali per dati personali o sensibili.

Horizon – Alternativa privata a Imgur

  • James, un ingegnere full-stack di 17 anni proveniente dal Canada, ha sviluppato Horizon Pics, un servizio di hosting di file incentrato sulla sicurezza, la privacy e le esigenze degli utenti, senza pubblicità o vendita di dati.
  • Recentemente, Horizon Pics ha subito un rebranding e ha lanciato una nuova app desktop chiamata Alpine, che carica automaticamente le catture dello schermo e i contenuti degli appunti, offrendo funzionalità come l'eliminazione automatica e la crittografia end-to-end.
  • Questa app è costruita con tecnologie moderne come Tauri, TypeScript, SvelteKit, Sass e Rust, e Horizon Pics offre piani sia gratuiti che a pagamento con limiti di archiviazione variabili.

Reazioni

  • Horizon Pics, sviluppato da un ingegnere full-stack canadese di 17 anni, è un'alternativa privata a Imgur, offrendo hosting di file senza pubblicità e sicuro.
  • Il servizio ha recentemente lanciato un rebranding, inclusa una nuova app desktop chiamata Alpine, che carica automaticamente le catture dello schermo e gli appunti con opzioni di privacy.
  • Horizon Pics offre sia un piano gratuito con spazio di archiviazione limitato che un piano a pagamento con limiti più elevati, con l'obiettivo di attrarre utenti alla ricerca di soluzioni di hosting di file incentrate sulla privacy.

La mafia dei prezzi farmaceutici

  • Il nuovo rapporto della FTC rivela come alcuni conglomerati sanitari, paragonati a una mafia, controllino il 4% di tutto il denaro degli Stati Uniti attraverso la determinazione dei prezzi dei farmaci.
  • Le società di gestione dei benefici farmaceutici (PBM) sono identificate come attori chiave nell'aumento dei prezzi dei farmaci, controllando i prezzi e reindirizzando i fondi verso se stesse.
  • Le azioni della FTC e i potenziali cambiamenti legislativi mirano a contrastare la monopolizzazione dei prezzi farmaceutici da parte dei PBM, che ha portato a costi significativamente gonfiati.

Reazioni

  • Il post discute delle pratiche non etiche nell'industria farmaceutica, in particolare coinvolgendo i gestori dei benefici farmaceutici (PBM) e le aziende farmaceutiche.
  • Le questioni chiave includono la vendita di dati sulle prescrizioni, i "rimborsi" legali che funzionano come tangenti e l'influenza degli incentivi finanziari sulle diagnosi e prescrizioni mediche.
  • Il dialogo evidenzia la necessità di trasparenza e regolamentazione per affrontare le distorsioni del mercato e proteggere i pazienti da comportamenti non etici e prezzi dei farmaci gonfiati.

Guida dell'Ingegnere al Deep Learning: Comprendere il Modello Transformer

  • Il documento, "La guida dell'ingegnere al deep learning," fornisce una guida completa per comprendere il modello Transformer, una significativa innovazione nell'IA introdotta nel 2017.
  • Include concetti fondamentali di reti neurali, RNN (Reti Neurali Ricorrenti), NLP (Elaborazione del Linguaggio Naturale) e meccanismi di attenzione, con esempi di codice Python funzionanti e riferimenti per ulteriori esplorazioni.
  • Rilasciato il 21 maggio 2024, è gratuito per uso educativo e non commerciale, scritto da Hironobu SUZUKI, un esperto programmatore di software e appassionato di intelligenza artificiale.

Reazioni

  • Il post discute varie risorse per comprendere il modello Transformer nel deep learning, evidenziando opzioni gratuite e a pagamento.
  • Le raccomandazioni includono "The Annotated Transformer," "Transformers from Scratch," la serie di Andrej Karpathy e le introduzioni visive di 3Blue1Brown.
  • Esiste un dibattito sulla rilevanza di Keras, con alcuni utenti che notano il suo declino nel mondo accademico e nell'industria a favore di JAX, mentre altri menzionano il supporto di Keras 3 per più backend.

Codestral Mamba

  • Il 16 luglio 2024, Mistral AI ha introdotto Codestral Mamba, una nuova architettura sviluppata con Albert Gu e Tri Dao, offrendo inferenza in tempo lineare e la capacità di modellare sequenze di lunghezza infinita.
  • Codestral Mamba è efficiente per la produttività del codice, ha prestazioni comparabili ai modelli transformer all'avanguardia (SOTA) e supporta il recupero contestuale fino a 256k token.
  • Il modello è distribuibile tramite vari SDK, con pesi grezzi disponibili su HuggingFace, ed è gratuito sotto la licenza Apache 2.0, mentre Codestral 22B ha licenze commerciali e comunitarie.

Reazioni

  • Codestral Mamba, un nuovo modello di Mistral.ai, è stato rilasciato e sta suscitando interesse grazie alla sua architettura e capacità uniche.
  • Il modello supporta 256k token di contesto e offre un tempo di inferenza lineare, rendendolo competitivo con i modelli basati su transformer.
  • C'è una discussione in corso sull'integrazione di Codestral Mamba con ambienti di sviluppo come VS Code e IntelliJ, ma il supporto attuale è limitato.

Peter Buxtun, informatore che ha denunciato lo studio sulla sifilide di Tuskegee, è morto

  • Peter Buxtun, l'informatore che ha denunciato lo studio non etico sulla sifilide di Tuskegee, è morto a 86 anni.
  • Le rivelazioni di Buxtun portarono alla conclusione dello studio nel 1972, a udienze congressuali e a un risarcimento di 10 milioni di dollari per le vittime.
  • Il suo paragone dello studio con gli esperimenti medici nazisti ha portato a nuove normative governative sulla ricerca, evidenziando il suo impatto significativo sugli standard etici nella ricerca medica.

Reazioni

  • Peter Buxtun, l'informatore che ha denunciato lo studio non etico sulla sifilide di Tuskegee, è deceduto.
  • Le preoccupazioni di Buxtun riguardo allo studio, che negava il trattamento agli uomini afroamericani affetti da sifilide, furono ignorate per sei anni prima di attirare l'attenzione.
  • Lo studio di Tuskegee ha avuto impatti duraturi, tra cui il contributo all'esitazione vaccinale nelle comunità afroamericane e la messa in evidenza del razzismo sistemico nella ricerca medica.

Il delirio della macchina della verità

  • Justin St. Germain esplora le linee sfocate tra memoria, memoir e mito attraverso la sua esperienza con un test della verità durante una domanda di lavoro con la Customs and Border Protection.
  • Egli sostiene che il poligrafo, spesso considerato un rilevatore di menzogne, in realtà crea piuttosto che rilevare la verità, tracciando parallelismi con la scrittura di memorie.
  • Germain discute la storia controversa del poligrafo, il suo uso per estorcere confessioni e il suo ruolo simbolico nell'affermare il potere dello stato, evidenziandone i difetti e l'ossessione americana per una verità semplice e rilevabile.

Reazioni

  • Il narratore racconta di aver fatto un test della verità a diciannove anni a causa di sospetti di furto sul lavoro, nonostante fosse innocente.
  • Le macchine della verità sono criticate per il loro uso nel costringere a confessioni piuttosto che nel rilevare accuratamente le bugie, portando spesso a stress e risultati inaffidabili.
  • Nonostante la loro dubbia accuratezza, i poligrafi continuano ad essere utilizzati nelle selezioni per il lavoro e nelle indagini criminali come strumento di intimidazione.

Una recensione di Linux su Surface Pro 4

  • Il autore ha sperimentato l'installazione di Linux su un Surface Pro 4, acquistato originariamente nel 2016, per esplorarne la fattibilità per vari casi d'uso come la navigazione in internet, il consumo di media e il disegno.
  • Installare Linux è stato semplice utilizzando EndeavourOS e Fedora Workstation 40, ma la funzionalità del tablet è stata problematica, con problemi come tocchi fantasma, scarsa reiezione del palmo e un notevole consumo della batteria durante il sonno.
  • Per questi motivi, l'autore è tornato a Windows 10, trovandolo più funzionale per le sue esigenze, ma potrebbe prendere in considerazione Linux dopo la fine del supporto per Windows 10 l'anno prossimo.

Reazioni

  • Una recensione sull'utilizzo di Linux su un Surface Pro 4 ha suscitato un dibattito significativo, evidenziando varie esperienze degli utenti con Linux su diversi hardware.
  • Molti utenti confrontano le loro esperienze con Linux su altri dispositivi, come Dell XPS e ThinkPad, notando problemi come il sonno, la gestione dell'alimentazione e l'integrazione hardware.
  • Il discorso sottolinea le sfide di ottenere un'integrazione hardware-software senza soluzione di continuità su Linux, simile a macOS sui MacBook, a causa delle complessità nello sviluppo dei driver dei dispositivi.

Come fanno i gioiellieri a catturare ogni singola particella di polvere d'oro? (2017)

  • Gary Williams di Mastermelt gestisce la combustione dei rifiuti commerciali per recuperare metalli preziosi, con i gioiellieri che raccolgono ogni particella di polvere d'oro dai loro laboratori per la lavorazione.
  • Il processo prevede il riscaldamento dei materiali a 2.000°C per recuperare metalli come oro e platino, con tecniche e tecnologie avanzate che aiutano a catturare più rifiuti.
  • Il rapporto di fiducia tra gioiellieri e raffinatori è cruciale, e l'industria affina continuamente i metodi per massimizzare il recupero dei metalli preziosi.

Reazioni

  • Le gioiellerie impiegano metodi meticolosi per catturare ogni particella di polvere d'oro, inclusi l'aggiornamento delle finestre, la lavanderia in loco e la rimozione dei pavimenti.
  • Queste pratiche ricordano gli sforzi storici, come il recupero dell'argento dai pavimenti e dalle attrezzature del Progetto Manhattan.
  • Le gioiellerie in città come Sydney e New York recuperano l'oro dai pavimenti dei laboratori e dai marciapiedi, sottolineando l'ingegnosità dell'industria e la minima perdita di materiale.

Strumenti di Collaborazione Aperta

  • Open Collaboration Tools è un progetto open-source mirato a migliorare il lavoro di squadra a distanza attraverso la condivisione in tempo reale dei contenuti dell'Integrated Development Environment (IDE).
  • Le caratteristiche principali includono estensioni per VS Code e Eclipse Theia, un'applicazione server per l'autenticazione e la collaborazione, e un protocollo aperto con crittografia end-to-end.
  • Il progetto affronta le lacune degli strumenti esistenti offrendo nessun vincolo del fornitore, assoluta estensibilità, opzioni di distribuzione flessibili e una licenza open-source sotto la Licenza MIT.

Reazioni

  • Open Collaboration Tools di TypeFox sta guadagnando attenzione, soprattutto tra gli utenti di openvscode-server e Eclipse Theia, grazie al suo potenziale per migliorare la collaborazione remota.
  • Gli strumenti di TypeFox, tra cui Sprotty, Langium e Theia, sono in evidenza, con la speculazione che Theia potrebbe sostituire openvscode-server se mantiene le sue promesse.
  • La discussione include l'interesse per la scalabilità e la prontezza di un provider YJS per l'editing collaborativo, e confronti con altri metodi di collaborazione come la condivisione dello schermo e VS Live Share.

OpenAI ha illegalmente impedito al personale di segnalare i rischi per la sicurezza, dicono i whistleblower

  • Alcuni informatori di OpenAI hanno presentato un reclamo alla SEC, accusando l'azienda di aver illegalmente impedito ai dipendenti di avvertire i regolatori sui rischi della sua tecnologia.
  • Il reclamo sostiene che gli accordi di lavoro di OpenAI violavano le leggi federali richiedendo al personale di rinunciare ai diritti di compensazione per i whistleblower e di ottenere il consenso dell'azienda prima di divulgare informazioni alle autorità.
  • OpenAI ha dichiarato di supportare le divulgazioni protette e ha rivisto le sue politiche, mentre la SEC ha riconosciuto il reclamo ma non ha confermato un'indagine.

Reazioni

  • Informatori affermano che OpenAI ha impedito al personale di discutere dei rischi per la sicurezza, sollevando preoccupazioni sull'uso degli accordi di non divulgazione (NDA) da parte dell'azienda.
  • Critici sostengono che l'enfasi di OpenAI sui "rischi per la sicurezza" possa riguardare più strategie di marketing e regolamentazione che minacce reali, parallele alle tattiche utilizzate da altre aziende tecnologiche.
  • Il dibattito si estende alle implicazioni etiche dello sviluppo dell'IA, inclusi l'uso di modelli parziali e l'impatto più ampio della regolamentazione dell'IA.

KUtrace: Strumento di tracciamento del kernel Linux a basso overhead

  • KUtrace è uno strumento di tracciamento del kernel Linux a basso overhead progettato per analizzare le prestazioni tracciando le transizioni kernel-utente.
  • Produce linee temporali dettagliate per ogni core della CPU che possono essere ingrandite fino al nanosecondo, aiutando a risolvere problemi di prestazioni nei datacenter e nella guida autonoma in tempo reale.
  • Lo strumento supporta processori x86 e ARM, è open-source sotto varie licenze e include file dal libro "Understanding Software Dynamics" di Richard L. Sites.

Reazioni

  • KUtrace è una struttura di tracciamento del kernel Linux a basso overhead progettata per aiutare a comprendere i colli di bottiglia delle prestazioni, in particolare nei sistemi multi-macchina.
  • Al contrario degli strumenti eBPF, KUtrace richiede patch del kernel e accesso root, necessitando di una manutenzione attiva.
  • Lo strumento è lodato per la sua efficacia, con raccomandazioni per il libro "Understanding Software Dynamics" del suo autore, Dick Sites, per ulteriori approfondimenti sulle prestazioni del sistema.

Sto avviando un'azienda di AI+Educazione

  • Andrej Karpathy ha annunciato il lancio della sua nuova azienda, Eureka Labs, che si concentra sull'integrazione dell'IA con l'istruzione.
  • Eureka Labs mira a creare una scuola nativa dell'IA progettata per rivoluzionare l'esperienza di apprendimento.
  • L'annuncio è stato fatto tramite un tweet, generando un notevole interesse nelle comunità tecnologiche ed educative.

Reazioni

  • Andrej Karpathy sta avviando un'azienda di AI+Educazione, suscitando discussioni sul ruolo dell'IA nell'istruzione.
  • Le opinioni variano sul potenziale dell'IA, con alcuni che sostengono che possa assistere ma non sostituire gli insegnanti, mentre altri credono che l'IA possa migliorare e personalizzare le esperienze di apprendimento.
  • Il dibattito mette in evidenza il panorama in evoluzione della tecnologia educativa, sottolineando la necessità di soluzioni innovative per migliorare l'insegnamento e l'apprendimento.