Ga naar hoofdinhoud

2024-07-16

Bruk CUDA, uendret, på AMD GPUer

  • SCALE by Spectral Compute er et GPGPU (General-Purpose computing on Graphics Processing Units) programmeringsverktøy som muliggjør native kompilering av CUDA-applikasjoner for AMD GPUer uten å endre den opprinnelige CUDA-koden eller byggesystemet.
  • SCALE fungerer som en drop-in-erstatning for NVIDIAs nvcc-kompilator, og muliggjør sømløs integrasjon med eksisterende byggverktøy og skript, og støtter ulike open-source CUDA-prosjekter som NVIDIA Thrust og Blender Cycles.
  • Foreløpig støtter SCALE AMD GPUer som gfx1030 (Navi 21, RDNA 2.0) og gfx1100 (Navi 31, RDNA 3.0), med pågående utvikling for flere GPU-arkitekturer.

Reacties

  • Diskusjonen dreier seg om gjennomførbarheten og implikasjonene av å kjøre CUDA (Compute Unified Device Architecture) på AMD GPUer, med vekt på tekniske og juridiske utfordringer.
  • Enkelte hevder at det er upraktisk å støtte oversettelseslag for CUDA på AMD GPUer og foreslår i stedet å fokusere på open-source prosjekter som PyTorch.
  • HIP (Heterogeneous-Compute Interface for Portability) nevnes som en potensiell løsning med lav innsats for å portere CUDA-kode til AMD GPUer, selv om det ikke er helt uten innsats.

Som standard samler Firefox nå inn brukerdata for annonsering

  • Firefox sin nyeste versjon samler nå brukerdata som standard, og introduserer Privacy-Preserving Attribution (PPA) for anonymisert annonsemåling, noe som har skapt kontrovers.
  • Kritikere hevder at denne standard datainnsamlingen undergraver brukernes tillit og mistenker at Mozillas intensjon er å øke inntektene, noe som utfordrer Firefox sitt rykte for personvern.
  • Den PPA bruker en aggregeringsserver for å anonymisere data, men bekymringer vedvarer om data som forlater brukernes datamaskiner og potensiell fremtidig tilgang av annonsører.

Reacties

  • Firefox har begynt å samle inn brukerdata som standard for reklameformål, noe som kan deaktiveres i innstillingene under Personvern og sikkerhet.
  • Brukere har rapportert at innstillingen for å deaktivere denne funksjonen ikke er lett søkbar og ikke synkroniseres på tvers av enheter.
  • CTO-en i Mozilla hevder at funksjonen balanserer personvern og annonsemåling, men brukerskepsis og kritikk vedvarer.

Exo: Kjør din egen AI-klynge hjemme med hverdagsenheter

  • Exo lar brukere opprette en AI-klynge hjemme ved å bruke hverdagsenheter som iPhones, iPads, Androids, Macs og Linux-systemer, og eliminerer behovet for dyre NVIDIA GPUer.
  • Viktige funksjoner inkluderer bred modellstøtte (f.eks. LLaMA), dynamisk modellpartisjonering, automatisk enhetsoppdagelse og en ChatGPT-kompatibel API, alt ved bruk av en peer-to-peer-tilkobling uten en master-worker-arkitektur.
  • Exo er eksperimentell programvare, så brukere bør forvente tidlige feil og oppfordres til å rapportere problemer og bidra til fellesskapet.

Reacties

  • Exo lar brukere kjøre sine egne AI-klynger hjemme ved hjelp av hverdagsenheter, og tilbyr et alternativ til skybasert AI-beregning.
  • Prosjektet støtter ulike maskinvare, inkludert gamle telefoner og bærbare datamaskiner, og har som mål å tilby personvern, tilpasning og offline tilgang for AI-modeller.
  • Diskusjoner fremhever avveiningene mellom lokale og skybaserte AI-modeller, inkludert kostnader, ytelse og personvern, med noen brukere som foretrekker lokale oppsett for personlige eller sensitive data.

Horizon – Privat alternativ til Imgur

  • James, en 17 år gammel fullstack-ingeniør fra Canada, har utviklet Horizon Pics, en filhostingstjeneste med fokus på sikkerhet, personvern og brukerbehov, uten annonser eller datasalg.
  • Nylig gjennomgikk Horizon Pics en rebranding og lanserte en ny desktop-app kalt Alpine, som automatisk laster opp skjermbilder og innhold fra utklippstavlen, og tilbyr funksjoner som automatisk sletting og ende-til-ende-kryptering.
  • Appen er bygget med moderne teknologier som Tauri, TypeScript, SvelteKit, Sass og Rust, og Horizon Pics tilbyr både gratis og betalte planer med varierende lagringsgrenser.

Reacties

  • Horizon Pics, utviklet av en 17 år gammel fullstack-ingeniør fra Canada, er et privat alternativ til Imgur, og tilbyr annonsefri og sikker filhosting.
  • Den tjenesten lanserte nylig en rebranding, inkludert en ny desktop-app kalt Alpine, som automatisk laster opp skjermbilder og utklippstavler med personvernalternativer.
  • Horizon Pics tilbyr både en gratis plan med begrenset lagring og en betalt plan med høyere grenser, med mål om å tiltrekke seg brukere som søker personvernfokuserte filhostingløsninger.

Farmasiprisenes mafia

  • FTCs nye rapport avslører hvordan noen få helsekonsern, sammenlignet med en mafia, kontrollerer 4 % av alle amerikanske penger gjennom legemiddelpriser.
  • Apotekfordelsforvaltere (PBM-er) er identifisert som nøkkelaktører som øker legemiddelprisene ved å kontrollere prisingen og omdirigere midler til seg selv.
  • FTCs handlinger og potensielle lovendringer tar sikte på å adressere monopoliseringen av legemiddelpriser av PBM-er, noe som har ført til betydelig oppblåste kostnader.

Reacties

  • Innlegget diskuterer uetiske praksiser i legemiddelindustrien, spesielt involverende apotekfordelsadministratorer (PBM-er) og legemiddelselskaper.
  • Viktige spørsmål inkluderer salg av reseptdata, lovlige "rabatter" som fungerer som bestikkelser, og påvirkningen av økonomiske insentiver på medisinske diagnoser og resepter.
  • Diskusjonen fremhever behovet for åpenhet og regulering for å håndtere markedsforvrengninger og beskytte pasienter mot uetisk oppførsel og oppblåste legemiddelpriser.

En ingeniørs guide til dyp læring: Forstå transformer-modellen

  • Dokumentet, "The Engineer’s Guide To Deep Learning," gir en omfattende veiledning til å forstå Transformer-modellen, et betydelig AI-gjennombrudd introdusert i 2017.
  • Det inkluderer grunnleggende konsepter for nevrale nettverk, RNN-er (Recurrent Neural Networks), NLP (Natural Language Processing), og oppmerksomhetsmekanismer, med fungerende Python-kodeeksempler og referanser for videre utforskning.
  • Utgitt 21. mai 2024, er det gratis for utdannings- og ikke-kommersiell bruk, skrevet av Hironobu SUZUKI, en erfaren programvareutvikler og AI-entusiast.

Reacties

  • Innlegget diskuterer ulike ressurser for å forstå Transformer-modellen i dyp læring, og fremhever gratis og betalte alternativer.
  • Anbefalinger inkluderer "The Annotated Transformer," "Transformers from Scratch," Andrej Karpathys serie, og 3Blue1Browns visuelle introduksjoner.
  • Det er en debatt om relevansen av Keras, med noen brukere som bemerker dens nedgang i akademia og industri som favoriserer JAX, mens andre nevner Keras 3s støtte for flere backends.

Kodestral Mamba

  • Den 16. juli 2024 introduserte Mistral AI Codestral Mamba, en ny arkitektur utviklet med Albert Gu og Tri Dao, som tilbyr lineær tidsinferens og evnen til å modellere sekvenser av uendelig lengde.
  • Codestral Mamba er effektiv for kodeproduktivitet, presterer sammenlignbart med toppmoderne (SOTA) transformer-modeller, og støtter konteksthenting opp til 256k tokens.
  • Modellen kan distribueres via ulike SDK-er, med råvekter tilgjengelig på HuggingFace, og er gratis under Apache 2.0-lisensen, mens Codestral 22B har kommersielle og fellesskapslisenser.

Reacties

  • Codestral Mamba, en ny modell fra Mistral.ai, har blitt lansert og vekker interesse på grunn av sin unike arkitektur og kapasitet.
  • Modellen støtter 256k kontekstkoder og tilbyr lineær inferenstid, noe som gjør den konkurransedyktig med transformerbaserte modeller.
  • Det pågår en diskusjon om å integrere Codestral Mamba med utviklingsmiljøer som VS Code og IntelliJ, men den nåværende støtten er begrenset.

Peter Buxtun, varsleren som avslørte Tuskegee-syfilisstudien, er død

  • Peter Buxtun, varsleren som avslørte den uetiske Tuskegee-syfilisstudien, har gått bort i en alder av 86 år.
  • Buxtuns avsløring førte til at studien ble avsluttet i 1972, kongresshøringer, og et forlik på 10 millioner dollar for ofrene.
  • Han sammenlignet studien med nazistiske medisinske eksperimenter, noe som førte til nye forskrifter for statlig forskning og fremhevet hans betydelige innvirkning på etiske standarder i medisinsk forskning.

Reacties

  • Peter Buxtun, varsleren som avslørte den uetiske Tuskegee-syfilisstudien, har gått bort.
  • Buxtuns bekymringer om studien, som holdt tilbake behandling fra afroamerikanske menn med syfilis, ble ignorert i seks år før de fikk oppmerksomhet.
  • Studien i Tuskegee har hatt varige konsekvenser, inkludert bidrag til vaksineskepsis i afroamerikanske samfunn og belysning av systemisk rasisme i medisinsk forskning.

Illusjonen av løgndetektoren

  • Justin St. Germain utforsker de uklare linjene mellom hukommelse, memoarer og myter gjennom sin erfaring med en løgndetektortest under en jobbsøknad hos Customs and Border Protection.
  • Han hevder at polygrafen, ofte sett på som en løgndetektor, faktisk skaper sannhet i stedet for å oppdage den, og trekker paralleller til memoarskriving.
  • Germain diskuterer polygrafens kontroversielle historie, dens bruk i å tvinge frem tilståelser, og dens symbolske rolle i å hevde statens makt, og fremhever dens feil og den amerikanske besettelsen av en enkel, påviselig sannhet.

Reacties

  • Forfatteren forteller om å ha tatt en løgndetektortest som nittenåring på grunn av mistanker om tyveri på jobben, til tross for at han var uskyldig.
  • Polygrafer kritiseres for deres bruk i å tvinge frem tilståelser snarere enn å nøyaktig oppdage løgner, noe som ofte fører til stress og upålitelige resultater.
  • Til tross for deres tvilsomme nøyaktighet, fortsetter løgndetektorer å bli brukt i jobbscreeninger og kriminelle etterforskninger som et verktøy for å skremme.

En anmeldelse av Linux på Surface Pro 4

  • Forfatteren eksperimenterte med å installere Linux på en Surface Pro 4, opprinnelig kjøpt i 2016, for å utforske dens levedyktighet for ulike bruksområder som internett-surfing, medieforbruk og skissering.
  • Installasjon av Linux var grei ved bruk av EndeavourOS og Fedora Workstation 40, men nettbrettfunksjonaliteten var problematisk, med problemer som spøkelsesberøring, dårlig håndflateavvisning og betydelig batteritap under dvale.
  • På grunn av disse problemene gikk forfatteren tilbake til Windows 10, da det var mer funksjonelt for deres behov, men de kan vurdere Linux på nytt etter at Windows 10 når slutten av sin levetid neste år.

Reacties

  • En anmeldelse av å kjøre Linux på en Surface Pro 4 har utløst betydelig diskusjon, og fremhever ulike brukeropplevelser med Linux på forskjellig maskinvare.
  • Mange brukere sammenligner sine erfaringer med Linux på andre enheter, som Dell XPS og ThinkPads, og bemerker problemer som søvn, strømstyring og maskinvareintegrasjon.
  • Diskusjonen understreker utfordringene med å oppnå sømløs maskinvare-programvareintegrasjon på Linux, lik macOS på MacBooks, på grunn av kompleksiteten i utviklingen av enhetsdrivere.

Hvordan fanger gullsmeder opp hver eneste partikkel av gullstøv? (2017)

  • Gary Williams fra Mastermelt administrerer forbrenningen av kommersielt avfall for å gjenvinne edle metaller, med gullsmeder som samler hvert eneste partikkel av gullstøv fra verkstedene sine for bearbeiding.
  • Prosessen innebærer oppvarming av materialer til 2 000 °C for å utvinne metaller som gull og platina, med avanserte teknikker og teknologi som hjelper til med å fange opp mer avfallet.
  • Tilliten mellom gullsmeder og raffinerier er avgjørende, og bransjen forbedrer kontinuerlig metoder for å maksimere utvinningen av edle metaller.

Reacties

  • Juvelerer bruker omhyggelige metoder for å fange opp hvert eneste gullstøvpartikkel, inkludert oppgradering av vinduer, vaskeri på stedet og å rive opp gulv.
  • Disse praksisene minner om historiske innsats, som Manhattan-prosjektets sølvgjenvinning fra gulv og utstyr.
  • Juvelerer i byer som Sydney og New York gjenvinner gull fra verkstedgulv og fortau, noe som understreker bransjens oppfinnsomhet og minimale materialtap.

De åpne samarbeidsverktøyene

  • Open Collaboration Tools er et åpen kildekode-prosjekt som har som mål å forbedre fjernteamarbeid gjennom direktedeling av innhold i integrerte utviklingsmiljøer (IDE).
  • Viktige funksjoner inkluderer utvidelser for VS Code og Eclipse Theia, en serverapplikasjon for autentisering og samarbeid, og en åpen protokoll med ende-til-ende-kryptering.
  • Prosjektet tar for seg mangler i eksisterende verktøy ved å tilby ingen leverandørlåsing, absolutt utvidbarhet, fleksible distribusjonsalternativer og åpen kildekode-lisensiering under MIT-lisensen.

Reacties

  • Open Collaboration Tools by TypeFox får oppmerksomhet, spesielt blant brukere av openvscode-server og Eclipse Theia, på grunn av sitt potensial for forbedret fjernarbeidssamarbeid.
  • TypeFox sine verktøy, inkludert Sprotty, Langium og Theia, blir fremhevet, med spekulasjoner om at Theia kan erstatte openvscode-server hvis det oppfyller sine løfter.
  • Diskusjonen inkluderer interesse for skalerbarheten og beredskapen til en YJS-leverandør for samarbeidende redigering, og sammenligninger med andre samarbeidsmetoder som skjermdeling og VS Live Share.

OpenAI hindret ulovlig ansatte fra å fremlegge sikkerhetsrisikoer, sier varslere

  • OpenAI-varslerne har levert inn en klage til SEC, og hevder at selskapet ulovlig begrenset ansatte fra å advare regulatorer om risikoene ved teknologien deres.
  • Klagesaken hevder at OpenAIs ansettelsesavtaler brøt føderale lover ved å kreve at ansatte fraskriver seg rettigheter til varslerkompensasjon og søker selskapets samtykke før de avslører informasjon til myndighetene.
  • OpenAI har uttalt at de støtter beskyttede avsløringer og har revidert sine retningslinjer, mens SEC har erkjent klagen, men ikke bekreftet en etterforskning.

Reacties

  • Varslere hevder at OpenAI begrenset ansatte fra å diskutere sikkerhetsrisikoer, noe som vekker bekymring for selskapets bruk av taushetserklæringer (NDAs).
  • Kritikere hevder at OpenAIs vektlegging av «sikkerhetsrisikoer» kanskje handler mer om markedsføring og regulatoriske strategier enn reelle trusler, parallelt med taktikker brukt av andre teknologiselskaper.
  • Debatten strekker seg til de etiske implikasjonene av AI-utvikling, inkludert bruken av partiske modeller og den bredere virkningen av AI-regulering.

KUtrace: Lav-overhead Linux kjerne sporingsfasilitet

  • KUtrace er et lav-overhead Linux-kernelsporingsverktøy designet for å analysere ytelse ved å spore overganger mellom kjerne og bruker.
  • Den produserer detaljerte tidslinjer per CPU-kjerne som kan zoomes inn til nanosekundet, noe som hjelper med å løse ytelsesproblemer i datasentre og sanntids autonom kjøring.
  • Verktøyet støtter x86- og ARM-prosessorer, er åpen kildekode under forskjellige lisenser, og inkluderer filer fra boken "Understanding Software Dynamics" av Richard L. Sites.

Reacties

  • KUtrace er en lav-overhead Linux-kernel sporingsfasilitet designet for å hjelpe med å forstå ytelsesflaskehalser, spesielt i multi-maskinsystemer.
  • Til forskjell fra eBPF-verktøy, krever KUtrace kjernerettelser og root-tilgang, noe som nødvendiggjør aktiv vedlikehold.
  • Verktøyet blir rost for sin effektivitet, med anbefalinger for boken "Understanding Software Dynamics" av forfatteren Dick Sites, for ytterligere innsikt i systemytelse.

Jeg starter et AI+utdanning selskap

  • Andrej Karpathy har kunngjort lanseringen av sitt nye selskap, Eureka Labs, som fokuserer på å integrere AI med utdanning.
  • Eureka Labs har som mål å skape en AI-innfødt skole designet for å revolusjonere læringsopplevelsen.
  • Kunngjøringen ble gjort via en tweet, noe som skapte betydelig interesse i teknologi- og utdanningsmiljøene.

Reacties

  • Andrej Karpathy starter et AI+utdanningsselskap, noe som utløser diskusjoner om rollen til AI i utdanning.
  • Meningen varierer om potensialet til AI, med noen som hevder at det kan hjelpe, men ikke erstatte lærere, mens andre mener at AI kan forbedre og tilpasse læringsopplevelser.
  • Debatten fremhever det utviklende landskapet innen utdanningsteknologi, og understreker behovet for innovative løsninger for å forbedre undervisning og læring.