Hop til hovedindhold

2024-07-16

Afvikl CUDA, uændret, på AMD GPU'er

  • SCALE af Spectral Compute er et GPGPU (General-Purpose computing on Graphics Processing Units) programmeringsværktøj, der muliggør native kompilering af CUDA-applikationer til AMD GPU'er uden at ændre den oprindelige CUDA-kode eller build-systemet.
  • SCALE fungerer som en drop-in erstatning for NVIDIAs nvcc-kompiler, hvilket muliggør problemfri integration med eksisterende build-værktøjer og scripts, og understøtter forskellige open-source CUDA-projekter som NVIDIA Thrust og Blender Cycles.
  • På nuværende tidspunkt understøtter SCALE AMD GPU'er såsom gfx1030 (Navi 21, RDNA 2.0) og gfx1100 (Navi 31, RDNA 3.0), med igangværende udvikling for yderligere GPU-arkitekturer.

Reaktioner

  • Diskussionen centrerer sig om gennemførligheden og konsekvenserne af at køre CUDA (Compute Unified Device Architecture) på AMD GPU'er, med fokus på tekniske og juridiske udfordringer.
  • Visse argumenterer for, at det er upraktisk at understøtte oversættelseslag for CUDA på AMD GPU'er og foreslår i stedet at fokusere på open source-projekter som PyTorch.
  • HIP (Heterogeneous-Compute Interface for Portability) nævnes som en potentiel løsning med lav indsats til at portere CUDA-kode til AMD GPU'er, selvom det ikke er helt uden indsats.

Til reklame indsamler Firefox nu brugerdata som standard

  • Firefox' seneste version indsamler nu som standard brugerdata og introducerer Privacy-Preserving Attribution (PPA) til anonymiseret annonceopmåling, hvilket har skabt kontrovers.
  • Critikere hævder, at denne standardindsamling af data undergraver brugernes tillid og mistænker Mozillas intention om at øge indtægterne, hvilket udfordrer Firefox' ry for privatliv.
  • Den PPA bruger en aggregeringsserver til at anonymisere data, men bekymringer består om data, der forlader brugernes computere og potentiel fremtidig adgang af annoncører.

Reaktioner

  • Firefox er begyndt at indsamle brugerdata som standard til reklameformål, hvilket kan deaktiveres i indstillingerne under Privatliv & Sikkerhed.
  • Brugere har rapporteret, at indstillingen til at deaktivere denne funktion ikke er let at finde og ikke synkroniseres på tværs af enheder.
  • Mozilla's CTO hævder, at funktionen balancerer privatliv og annonce-måling, men brugernes skepsis og kritik består.

Exo: Kør din egen AI-klynge derhjemme med hverdagsenheder

  • Exo giver brugerne mulighed for at oprette en AI-klynge derhjemme ved hjælp af hverdagsenheder som iPhones, iPads, Androids, Macs og Linux-systemer, hvilket eliminerer behovet for dyre NVIDIA GPU'er.
  • Vigtige funktioner inkluderer bred modelunderstøttelse (f.eks. LLaMA), dynamisk modelopdeling, automatisk enhedsopdagelse og en ChatGPT-kompatibel API, alt sammen ved hjælp af en peer-to-peer-forbindelse uden en master-worker-arkitektur.
  • Exo er eksperimentel software, så brugere bør forvente tidlige fejl og opfordres til at rapportere problemer og bidrage til fællesskabet.

Reaktioner

  • Exo giver brugerne mulighed for at køre deres egne AI-klynger derhjemme ved hjælp af hverdagsenheder, hvilket giver et alternativ til cloud-baseret AI-beregning.
  • Projektet understøtter forskellige hardware, herunder gamle telefoner og bærbare computere, og har til formål at tilbyde privatliv, tilpasning og offline adgang til AI-modeller.
  • Diskussioner fremhæver afvejningerne mellem lokale og cloud-baserede AI-modeller, herunder omkostninger, ydeevne og privatliv, hvor nogle brugere foretrækker lokale opsætninger til personlige eller følsomme data.

Horizon – Privat alternativ til Imgur

  • James, en 17-årig full-stack ingeniør fra Canada, har udviklet Horizon Pics, en filhostingstjeneste med fokus på sikkerhed, privatliv og brugerbehov, uden reklamer eller datasalg.
  • På det seneste har Horizon Pics gennemgået en rebranding og lanceret en ny desktop-app kaldet Alpine, som automatisk uploader skærmbilleder og indhold fra udklipsholderen. Appen tilbyder funktioner som automatisk sletning og end-to-end kryptering.
  • Appen er bygget med moderne teknologier som Tauri, TypeScript, SvelteKit, Sass og Rust, og Horizon Pics tilbyder både gratis og betalte planer med varierende lagergrænser.

Reaktioner

  • Horizon Pics, udviklet af en 17-årig full-stack ingeniør fra Canada, er et privat alternativ til Imgur, der tilbyder annoncefri og sikker filhosting.
  • Servicen lancerede for nylig en rebranding, inklusive en ny desktop-app kaldet Alpine, som automatisk uploader skærmbilleder og udklipsholdere med privatlivsindstillinger.
  • Horizon Pics tilbyder både en gratis plan med begrænset lagerplads og en betalingsplan med højere grænser, med det formål at tiltrække brugere, der søger privatlivsfokuserede filhostingløsninger.

Medicinalindustriens mafia-prissætning

  • FTC's nye rapport afslører, hvordan nogle få sundhedskonglomerater, sammenlignet med en mafia, kontrollerer 4% af alle amerikanske penge gennem lægemiddelprissætning.
  • Pharmacy Benefit Managers (PBM'er) er identificeret som nøgleaktører, der oppuster lægemiddelpriser ved at kontrollere prissætningen og omdirigere midler til sig selv.
  • FTC's handlinger og potentielle lovgivningsændringer sigter mod at tackle monopoliseringen af lægemiddelpriser af PBM'er, hvilket har ført til betydeligt oppustede omkostninger.

Reaktioner

  • Indlægget diskuterer uetiske praksisser i medicinalindustrien, især involverende Pharmacy Benefit Managers (PBM'er) og medicinalfirmaer.
  • Vigtige emner omfatter salget af receptdata, lovlige "rabatter" der fungerer som bestikkelse, og indflydelsen af økonomiske incitamenter på medicinske diagnoser og recepter.
  • Dialogen fremhæver behovet for gennemsigtighed og regulering for at imødegå markedsforvridninger og beskytte patienter mod uetisk adfærd og oppustede medicinpriser.

En ingeniørs guide til dyb læring: Forståelse af transformer-modellen

  • Dokumentet, "The Engineer’s Guide To Deep Learning," giver en omfattende vejledning i at forstå Transformer-modellen, et betydeligt AI-gennembrud introduceret i 2017.
  • Det inkluderer grundlæggende begreber om neurale netværk, RNN'er (Recurrent Neural Networks), NLP (Natural Language Processing) og opmærksomhedsmekanismer, med fungerende Python-kodeeksempler og referencer til videre udforskning.
  • Udgivet den 21. maj 2024, er det gratis til uddannelses- og ikke-kommerciel brug, forfattet af Hironobu SUZUKI, en erfaren softwareprogrammør og AI-entusiast.

Reaktioner

  • Indlægget diskuterer forskellige ressourcer til at forstå Transformer-modellen inden for dyb læring og fremhæver både gratis og betalte muligheder.
  • Anbefalinger inkluderer "The Annotated Transformer," "Transformers from Scratch," Andrej Karpathys serie og 3Blue1Browns visuelle introduktioner.
  • Der er en debat om relevansen af Keras, hvor nogle brugere bemærker dets tilbagegang i akademia og industri til fordel for JAX, mens andre nævner Keras 3's understøttelse af flere backends.

Kodestral Mamba

  • Den 16. juli 2024 introducerede Mistral AI Codestral Mamba, en ny arkitektur udviklet sammen med Albert Gu og Tri Dao, som tilbyder lineær tidsinferens og evnen til at modellere uendeligt lange sekvenser.
  • Kodestral Mamba er effektiv til kodeproduktivitet, yder sammenligneligt med de nyeste (SOTA) transformer-modeller og understøtter in-context hentning op til 256k tokens.
  • Modellen kan implementeres via forskellige SDK'er, med rå vægte tilgængelige på HuggingFace, og er gratis under Apache 2.0-licensen, mens Codestral 22B har kommercielle og fællesskabslicenser.

Reaktioner

  • Codestral Mamba, en ny model fra Mistral.ai, er blevet lanceret og vækker interesse på grund af sin unikke arkitektur og kapaciteter.
  • Modellen understøtter 256k kontekstkoder og tilbyder lineær inferenstid, hvilket gør den konkurrencedygtig med transformerbaserede modeller.
  • Der er en igangværende diskussion om at integrere Codestral Mamba med udviklingsmiljøer som VS Code og IntelliJ, men den nuværende support er begrænset.

Peter Buxtun, whistlebloweren der afslørede Tuskegee-syfilisstudiet, er død

  • Peter Buxtun, whistlebloweren der afslørede det uetiske Tuskegee-syfilisstudie, er død i en alder af 86.
  • Buxtuns afsløring førte til afslutningen af undersøgelsen i 1972, kongreshøringer og en erstatning på 10 millioner dollars til ofrene.
  • Han sammenligning af undersøgelsen med nazistiske medicinske eksperimenter førte til nye regeringsforskrifter for forskning, hvilket fremhæver hans betydelige indflydelse på etiske standarder i medicinsk forskning.

Reaktioner

  • Peter Buxtun, whistlebloweren der afslørede det uetiske Tuskegee-syfilisstudie, er gået bort.
  • Buxtuns bekymringer om undersøgelsen, som undlod at behandle afroamerikanske mænd med syfilis, blev ignoreret i seks år, før de fik opmærksomhed.
  • Den Tuskegee-undersøgelse har haft varige konsekvenser, herunder bidraget til vaccine-tøven i afroamerikanske samfund og fremhævet systemisk racisme i medicinsk forskning.

Vildfarelsen om løgnedetektoren

  • Justin St. Germain udforsker de slørede grænser mellem hukommelse, erindringer og myter gennem sin oplevelse med en løgnedetektortest under en jobansøgning hos Told- og Grænsebeskyttelse.
  • Han hævder, at polygrafen, ofte betragtet som en løgnedetektor, faktisk skaber sandhed snarere end at opdage den, og drager paralleller til memoirskrivning.
  • Germain diskuterer løgnedetektorens kontroversielle historie, dens brug til at tvinge tilståelser frem og dens symbolske rolle i at hævde statens magt, idet han fremhæver dens mangler og den amerikanske besættelse af en simpel, påviselig sandhed.

Reaktioner

  • Forfatteren fortæller om at have taget en løgnedetektortest som nittenårig på grund af tyverimistanker på arbejdet, selvom han var uskyldig.
  • Polygrafer kritiseres for deres brug til at tvinge tilståelser frem snarere end at opdage løgne præcist, hvilket ofte fører til stress og upålidelige resultater.
  • På trods af deres tvivlsomme nøjagtighed fortsætter brugen af løgnedetektorer i jobscreeninger og kriminelle efterforskninger som et redskab til intimidering.

En anmeldelse af Linux på Surface Pro 4

  • Forfatteren eksperimenterede med at installere Linux på en Surface Pro 4, oprindeligt købt i 2016, for at undersøge dens levedygtighed til forskellige anvendelser som internetbrowsing, medieforbrug og skitsering.
  • Installation af Linux var ligetil ved brug af EndeavourOS og Fedora Workstation 40, men tablet-funktionaliteten var problematisk med problemer som spøgelsesberøring, dårlig håndfladeafvisning og betydeligt batteridræn under dvale.
  • På grund af disse problemer vendte forfatteren tilbage til Windows 10, da det var mere funktionelt for deres behov, men de overvejer muligvis Linux igen efter Windows 10's ophør næste år.

Reaktioner

  • En anmeldelse af at køre Linux på en Surface Pro 4 har skabt betydelig diskussion og fremhævet forskellige brugeroplevelser med Linux på forskellig hardware.
  • Mange brugere sammenligner deres oplevelser med Linux på andre enheder, såsom Dell XPS og ThinkPads, og bemærker problemer som dvaletilstand, strømstyring og hardwareintegration.
  • Diskussionen understreger udfordringerne ved at opnå en problemfri hardware-software-integration på Linux, svarende til macOS på MacBooks, på grund af kompleksiteten ved udvikling af enhedsdrivere.

Hvordan fanger guldsmede hver eneste partikel af guldsstøv? (2017)

  • Gary Williams fra Mastermelt styrer forbrændingen af kommercielt affald for at genvinde ædle metaller, hvor guldsmede samler hver eneste partikel af guldsstøv fra deres værksteder til forarbejdning.
  • Processen involverer opvarmning af materialer til 2.000°C for at udvinde metaller som guld og platin, med avancerede teknikker og teknologi, der hjælper med at opfange mere affald.
  • Tillid mellem juvelerer og raffinaderier er afgørende, og industrien forfiner løbende metoder til at maksimere genvindingen af ædle metaller.

Reaktioner

  • Juvelerer anvender omhyggelige metoder for at opsamle hver eneste partikel af guldsstøv, herunder opgradering af vinduer, vaskeri på stedet og opbrydning af gulve.
  • Disse praksisser minder om historiske bestræbelser, såsom Manhattan-projektets sølvgenvinding fra gulve og udstyr.
  • Juvelerer i byer som Sydney og New York genvinder guld fra værkstedsgulve og fortove, hvilket understreger industriens opfindsomhed og minimale materialetab.

De åbne samarbejdsværktøjer

  • Open Collaboration Tools er et open-source projekt, der sigter mod at forbedre fjernteamarbejde gennem live-deling af indhold i Integrated Development Environment (IDE).
  • Vigtige funktioner inkluderer udvidelser til VS Code og Eclipse Theia, en serverapplikation til autentifikation og samarbejde, samt en åben protokol med end-to-end kryptering.
  • Projektet adresserer mangler i eksisterende værktøjer ved at tilbyde ingen leverandørlåsning, absolut udvidelighed, fleksible implementeringsmuligheder og open-source licensiering under MIT-licensen.

Reaktioner

  • Open Collaboration Tools fra TypeFox får opmærksomhed, især blandt brugere af openvscode-server og Eclipse Theia, på grund af dets potentiale for forbedret fjernsamarbejde.
  • TypeFox's værktøjer, herunder Sprotty, Langium og Theia, bliver fremhævet, med spekulationer om, at Theia måske vil erstatte openvscode-server, hvis det lever op til sine løfter.
  • Diskussionen omfatter interesse i skalerbarheden og paratheden af en YJS-udbyder til samarbejdsredigering samt sammenligninger med andre samarbejdsmetoder som skærmdeling og VS Live Share.

OpenAI forhindrede ulovligt medarbejdere i at fremføre sikkerhedsrisici, siger whistleblowere

  • OpenAI-whistleblowere har indgivet en klage til SEC, hvor de hævder, at virksomheden ulovligt har begrænset medarbejdere fra at advare tilsynsmyndigheder om risiciene ved dens teknologi.
  • Klagen hævder, at OpenAIs ansættelsesaftaler overtrådte føderale love ved at kræve, at medarbejdere afstår fra whistleblower-kompensationsrettigheder og søger virksomhedens samtykke, før de videregiver oplysninger til myndighederne.
  • OpenAI har erklæret, at de støtter beskyttede afsløringer og har revideret deres politikker, mens SEC har anerkendt klagen, men ikke har bekræftet en undersøgelse.

Reaktioner

  • Whistleblowere hævder, at OpenAI begrænsede personalet fra at diskutere sikkerhedsrisici, hvilket rejser bekymringer om virksomhedens brug af fortrolighedsaftaler (NDAs).
  • Critikere hævder, at OpenAI's vægt på "sikkerhedsrisici" måske handler mere om markedsføring og reguleringsstrategier end om reelle trusler, hvilket paralleller taktikker brugt af andre teknologivirksomheder.
  • Debatten strækker sig til de etiske implikationer af AI-udvikling, herunder brugen af forudindtagede modeller og den bredere indvirkning af AI-regulering.

KUtrace: Lav-overhead sporingsfacilitet til Linux-kernen

  • KUtrace er et lav-overhead Linux kernel sporingsværktøj designet til at analysere ydeevne ved at spore overgange mellem kerne og bruger.
  • Det producerer detaljerede tidslinjer for hver CPU-kerne, som kan zoomes ind til nanosekundet, hvilket hjælper med at løse ydelsesproblemer i datacentre og realtids autonom kørsel.
  • Værktøjet understøtter x86- og ARM-processorer, er open source under forskellige licenser og inkluderer filer fra bogen "Understanding Software Dynamics" af Richard L. Sites.

Reaktioner

  • KUtrace er en lav-overhead Linux-kerne sporingsfacilitet designet til at hjælpe med at forstå præstationsflaskehalse, især i multi-maskine systemer.
  • Til forskel fra eBPF-værktøjer kræver KUtrace kerne-patches og root-adgang, hvilket nødvendiggør aktiv vedligeholdelse.
  • Værktøjet roses for sin effektivitet, med anbefalinger til bogen "Understanding Software Dynamics" af forfatteren Dick Sites for yderligere indsigt i systemets ydeevne.

Jeg starter en AI+Uddannelse virksomhed

  • Andrej Karpathy har annonceret lanceringen af sit nye firma, Eureka Labs, som fokuserer på at integrere AI med uddannelse.
  • Formålet med Eureka Labs er at skabe en AI-indfødt skole, der er designet til at revolutionere læringsoplevelsen.
  • Meddelelsen blev offentliggjort via en tweet, hvilket skabte betydelig interesse i tech- og uddannelsesmiljøerne.

Reaktioner

  • Andrej Karpathy starter et AI+Uddannelse firma, hvilket sætter gang i diskussioner om AI's rolle i uddannelse.
  • Holdningerne varierer om AI's potentiale, hvor nogle hævder, at det kan assistere, men ikke erstatte lærere, mens andre mener, at AI kan forbedre og personalisere læringsoplevelser.
  • Debatten fremhæver det udviklende landskab inden for uddannelsesteknologi og understreger behovet for innovative løsninger til at forbedre undervisning og læring.