2023-04-18

MiniGPT-4

Nyheder.

MiniGPT-4, en sprogmodel, der tilpasser en frossen visuel koder til en frossen stor sprogmodel, Vicuna, ved hjælp af blot ét projektionslag, har lignende evner som GPT-4, f.eks. at generere detaljerede billedbeskrivelser og skrive historier og digte inspireret af givne billeder. Modellen er meget effektiv rent beregningsmæssigt, idet den kun anvender ca. 5 millioner tilpassede billed-tekstpar og kun kræver træning af det lineære lag for at tilpasse de visuelle træk til den store Vicuna-sprogmodel. Skaberne er ved at forberede en lettere model, der kan køre på en enkelt 3090 GPU, til fremtidig brug.

Reaktioner fra industrien.

Forskere skaber MiniGPT-4-model, som overgår andre modeller ved at forbinde BLIP2's ViT-L+Q-former med Vicuna-13B med et lineært lag og træne kun det lille lag på nogle billed-tekst-datasæt. Andre kommentarer omfatter maskinlæringsmodeller, kørsel af LLM'er på CPU'er og markedsføring af produkter baseret på mindre modeller. Forskere fra King Abdullah University udvikler Vicuna, en GPT-transformer-arkitektur, der genererer computerprogrammer og websteder fra naturligt sprog med forbedret indlæringseffektivitet. GPTQ 4bit's hurtigere og mere effektive ydeevne giver spændende muligheder for videosammenfatning og andre applikationer til software og teknologi.

RedPajama: Reproduktion af LLaMA med venlig licens

Nyheder.

RedPajama, et projekt, der har til formål at skabe førende open source-modeller, starter med at reproducere LLaMA-træningsdatasættet på over 1,2 billioner tokens; RedPajama har tre hovedkomponenter: præ-træningsdata, basismodeller og instruktionsafstemningsdata og -modeller; RedPajama har frigivet det fulde RedPajama-datasæt på 1,2 billioner tokens, og et mindre, mere forbrugsvenligt tilfældigt udsnit kan downloades gennem Hugging Face.

Industry Reactions.

Sammen har XYZ frigivet RedPajama, et datasæt til sprogmodeller med åben kildekode, der er fire gange større end OpenAI's GPT-3-drevne GPT-3 og imødekommer kritik fra AI-forskere vedrørende den lukkede karakter af udvikling og implementering af sprogmodeller. Kommentarer på Hacker News henviser til forskellige derivater som Pythia, OpenAssistant, StableDiffusion og Midjourney og fremhæver deres styrker og svagheder med fokus på billedkvalitet og kontrol. Der er en løbende debat om ophavsretlig beskyttelse af AI-vægte, og RedPajama står over for udfordringer med hensyn til at skabe et bæredygtigt AI-initiativ med åben kildekode, der kan konkurrere med big tech.

Samsung overvejer at skifte til Bing som standardsøgemaskine

Nyheder.

Samsung er angiveligt i forhandlinger med Microsoft om at gøre Bing til standardsøgemaskine på sine Galaxy-enheder, herunder Android-baserede smartphones og tablets, idet Google tilsyneladende er i "paniktilstand". Dette sker, mens kapløbet om at bringe de bedste AI-evner til web-søgning bliver mere hedt, og Google arbejder på sit modspil, Project "Magi", som efter sigende vil give en langt mere personlig oplevelse i forhold til den nuværende tjeneste. Google inviterede for nylig medarbejdere til at teste AI'en på søgemaskinen, med en mulig lancering i maj 2023.

Industriens reaktioner.

Samsung overvejer at skifte til Bing som standardsøgemaskine, muligvis på grund af Googles øgede annoncepres på Google Cloud Platform (GCP) og for at presse flere betalinger fra Samsung og Apple. Bing kunne overbyde Google i en potentiel søgemaskineaftale, og Microsoft presser Samsung til at skabe en ny enhed. Der er en debat om Googles faldende kvalitet og SEO-taktikker, hvilket skubber brugerne over mod alternative søgemaskiner som ChatGPT, DDG, Brave Search og Bing. Desuden er Linux-desktopoplevelsen blevet bedre, og mange brugere vælger Linux til arbejdet, mens Chromebooks foretrækkes i uddannelsessektoren.

Jeg kunne godt lide denne enkle regneøvelse

Nyheder.

Forfatteren deler en regneøvelse, der kræver, at eleverne forstår, hvad integralet beregner, i stedet for blot at stole på faste regler for integration af almindelige funktioner. For at løse opgaven kan eleverne bruge grafer, opdele komplicerede funktioner i enklere dele, håndtere stykkevis kontinuerte funktioner og udnytte symmetri. Øvelsen kan hjælpe eleverne med at lære værdifulde teknikker og den iagttagelse, at ikke alle problemer kan løses ved blot at flytte rundt på symboler.

Industriens reaktioner.

Hacker News-brugere diskuterer undervisning i regning og foreslår flere øvelser til at teste forståelsen. De foreslår også, at der anvendes moderne software og at de grundlæggende begreber styrkes gennem hele kurset. Desuden deler de ressourcer til at verificere matematiske modeller eller øvelser.

Opstart af moderne Intel CPU'er

Nyheder.

• Opstart af moderne Intel CPU'er indebærer verificering af signaturer og afvikling af Authenticated Code Modules (ACM'er) med henblik på at opdage angreb eller malware.
• BootGuard, Intels sikkerhedsløsning til opstart, verificerer mikrokodeopdateringer, kontrollerer headere i systemets flash, læser en ACM, verificerer dens signatur og udfører IBB'en i 32-bit-tilstand.
• Indlægget diskuterer at stole på firmware til tunge løft i stedet for OS og er velskrevet for nye læsere fra tech-branchen uden politisk/religiøs bias eller eksternalisering af teksten, men uden nogen spændende eller nye aspekter.

Industry Reactions.

Intel CPU'er og problemerne med opstart af hjælpeprocessorer i flere systemer diskuteres sammen med måder at løse disse problemer på gennem funktionskald og assemblerkode uden brug af hukommelse eller stakke. Nogle udviklere udtrykker frustration over fejlbehæftet firmware og upålidelighed i produkterne, mens andre er tilfredse med billigere alternativer, der opfylder deres behov. Samtalen dækker også over, at legacy boot-understøttelse opgives til fordel for firmwareopdateringer, og at real mode ikke længere spiller en rolle i forbindelse med opstart af moderne operativsystemer.

iOS 17 vil efter sigende lægge op til sideloading af apps på iPhone

Nyheder.

Apple vil muligvis tilføje muligheden for at sideloade apps på iPhones med udgivelsen af iOS 17, ifølge en Bloomberg-rapport. Selskabet er angiveligt ved at lægge grunden til en sådan funktionalitet og vil måske komme med en meddelelse herom på den kommende Worldwide Developer Conference (WWDC) i juni. Det er uklart, om Apple vil tillade sideloading med iOS 17, eller om selskabet blot foretager nogle ændringer på operativsystemniveau for at muliggøre det på et senere tidspunkt på vejen.

Industriens reaktioner.

Apples iOS 17 tillader efter sigende sideloading af apps på iPhones; nogle roser dette tiltag, mens andre bekymrer sig om en forringelse af sikkerhedsforanstaltningerne. Debatten drejer sig om at finde en balance mellem beskyttelse af privatlivets fred og sikkerhed og muligheden for at sideloade apps. Kritikerne mener, at Apple har et monopol og er nødt til at tilbyde brugerne flere muligheder, mens forsvarerne peger på Apples overlegne beskyttelse af privatlivets fred og sikkerhed sammenlignet med konkurrenten Android.

OpenAI's CEO siger, at de gigantiske AI-modellers tidsalder allerede er forbi

Nyheder.

OpenAI's CEO, Sam Altman, udtalte, at æraen med at lave store sprogmodeller som GPT er ved at være forbi. Selv om OpenAI fortsat gør fremskridt inden for AI, vil fremtidige fremskridt kræve nye idéer, og ifølge Altman vil de ikke blot komme ved at gøre modellerne større. Mange velfinansierede startups forsøger at indhente OpenAI's teknologi, og GPT-4 signalerer en uventet drejning i kapløbet om at udvikle og implementere nye AI-algoritmer.

Industriens reaktioner.

OpenAI's administrerende direktør hævder, at store AI-modeller ikke længere er økonomisk gennemførlige, og at fremtidige fremskridt inden for AI vil komme ved at forbedre modellerne på andre måder. Multimodale modeller er den nye grænse for forskning i AI. Nogle eksperter er skeptiske over for OpenAI's påstande om GPT-4's størrelse og evner, mens andre peger på dens potentiale for eksponentiel vækst. OpenAI skal muligvis finde nye kilder til træningsdata og forbedre algoritmen og datakvaliteten for at få bedre AI-modeller. Diskussioner om GPT-4's sproglige kompetencer og begrænsninger har ført til drøftelser om forbedring af sprogmodeller gennem multimodale muligheder, mere effektive træningsmål og optimeringsværktøjer samt fremskridt inden for dataforøgelser.

Microsoft har slettet de offentlige supportfora for SwiftKey

News.

Denne tekst er ikke relateret til titlen "Microsoft slettede de offentlige supportfora for SwiftKey" og kan derfor ikke sammenfattes i overensstemmelse hermed. Vær venlig at give mig den korrekte tekst, så jeg kan opsummere den.

Industriens reaktioner.

Microsoft har fjernet de offentlige supportfora for SwiftKey, som brugerne føler sig loyale over for, fordi den lærer deres skrivestil og bliver en forlængelse af deres krop; de kan nu kun sende en e-mail til SwiftKeys kundesupport med problemer. Kommentarerne dækker forskellige emner, herunder online identitetsbekræftelse og virkningerne af at tilbringe for meget tid online; andre emner omfatter spørgsmål om handicap og afhængighed af sociale medier. Nogle kommentarer diskuterer dog også SwiftKeys styrker, herunder indlæring af blandede sprogmodeller og ergonomisk design, hvilket gør det til et vigtigt alternativ til standardtastaturmulighederne på Android- og iOS-enheder.

Ingen kildekode == Ingen patent

Nyheder.

• Offentliggørelse af kildekode i softwarepatenter er vigtig, fordi det beviser, at en opfinder kan implementere opfindelsen, og giver et patent større troværdighed, især i sager om krænkelse.
• Ved at medtage kildekode opfyldes kravet om skriftlig beskrivelse og muliggørelse fuldt ud, hvilket reducerer antallet af ansøgninger om softwarepatenter og undgår tvetydighed i designspecifikationer.
• I artiklen diskuteres retssager og den nuværende situation for patenter inden for computerteknologi og digital kommunikation, og det fremhæves, at der er behov for kildekode i softwarepatenter for at løse problemet med rimelige eksperimenter.

Industriens reaktioner.

Debatten om, hvorvidt softwarepatenter skal afskaffes eller opretholdes, udløser en diskussion på Hacker News med argumenter for og imod patenters nødvendighed for at forhindre tyveri af uafhængigt skabte idéer. Nogle mener, at softwarepatenter hæmmer innovation og kræver mere end blot en idé eller et koncept, f.eks. et fysisk objekt eller en arbejdskopi, mens andre diskuterer relevansen af kildekode og algoritmer i forbindelse med patentrettigheder.

Jeg gjorde min blog solcelledrevet, så eskalerede tingene

Nyheder.

En blogger byggede et solcelledrevet system til at drive sin blog og sit computerbord ved hjælp af solpaneler med en samlet effekt på 740 watt, der drives via et 12-voltssystem med et stort brugt blybatteri, Victron-solcelleoplader, inverter og Filax 2-omskifter, og indsamling af data indebærer brug af Python, InfluxDB og Grafana til at indsamle og vise data. Overdimensionerede batterikabler og anvendelse af et 24- eller 48-voltsystem anbefales af hensyn til sikkerheden og for at reducere omkostningerne, og der anvendes et forseglet bly-syre-batteri af hensyn til dets sikkerhed. En dynamisk belastningsalgoritme forhindrer dyb afladning af batteriet, og en baggrund med mørkt tema kan spare strøm.

Reaktioner fra industrien.

I en tråd i Hacker News diskuteres fordele og ulemper ved at bruge forskellige typer batterier, herunder bly-syre-, LiFePo4- og solid-state-batterier, til solcelleprojekter, og det foreslås, at man bør overveje sine specifikke behov og mål, før man beslutter sig for en batteritype. Eksperter deler deres viden om kapacitetstest og plug-in-erstatning af bly-syre-batterier ved hjælp af litium-jern-fosfat-batterier (LiFePO4), og selv om LiFePO4-batterier kan være lettere og hurtigere at oplade, er deres samlede levetid stadig sammenlignelig med bly-syre-batterier. Andre kommentarer giver tips til opbygning af solenergisystemer, f.eks. om at bruge USB-C strømforsyninger, fordele strømmen over faser og bruge 24V- eller DC-komponenter samt foreslå alternative løsninger som vindmøller eller paneler som tagdækning.

Solgt en historie: Hvordan det gik så galt at lære børn at læse

Nyheder.

American Public Medias undersøgende journalistiske projekt "Sold a Story" afliver de nuværende undervisningsmetoder i skolernes læseprogrammer, som er baseret på en idé om, hvordan børn lærer at læse, som Marie Clay oprindeligt har fremsat, og som længe har været modbevist. Men produkter, der anvender disse afkræftede metoder, sælges til skoler over hele landet, hvor Heinemann tjener millioner af dollars, mens forældre, undervisere og lovgivere kræver ændringer i systemet. Artiklerne indeholder interviews med indflydelsesrige pædagoger og politikere, forskningsanalyser og vejledningsmateriale til pædagoger og samfundsborgere, så de kan diskutere de pågældende emner.

Industriens reaktioner.

Forskellige undervisningstilgange til børns læsning, f.eks. fonik og forældreinddragelse, diskuteres med vægt på individualiseret undervisning og vurdering. Pædagoger og akademikere diskuterer effektiviteten af phonics-baseret undervisning i forhold til undervisning med hele ord, og artiklen advarer mod at stole blindt på lærernes holdninger. Diskussionen omfatter også anbefalinger til nyttige ressourcer til forældre, idet der lægges vægt på vigtigheden af fonetikundervisning for læsefærdigheder, og kvaliteten af undervisningen i folkeskolen er i øjeblikket til debat.

The Windows 11 Trash Party

Nyheder.

Artiklens forfatter klager over det standardindhold, der vises i startmenuen i Windows 11, herunder en nyhed om masseskyderi, som måske er upassende for børn, og affald fra MSN-hjemmesiden i vejrudsigten for vejrudsigten. Selv om du kan slå dette indhold fra, tyder artiklen på, at Windows-oplevelsen generelt set er skuffende.

Industriens reaktioner.

Brugerne udtrykker bekymring over Microsofts identitetskrise og foreslår, at der er behov for en afklaring af deres vision og fokus på at være et styresystem for virksomheder. Der udtrykkes utilfredshed med Windows 11, og nogle foreslår at bruge Linux som et alternativ. Windows' påtrængende reklamer, problemer med privatlivets fred og ydeevne kritiseres. Indlægget er irrelevant for teknisk kyndige læsere, der er interesseret i Windows 11's kritikpunkter.

Månedlige Fediverse-indlæg krydser 1 milliard for første gang

News.

De månedlige Fediverse-indlæg har for første gang passeret en milliard for første gang, viser en ny dataanalyse. Mastodon, et decentraliseret socialt netværk drevet af Masto.ai, har 8,9K aktive brugere og tilbyder funktioner som f.eks. at følge hashtags og profiler, favorisere, dele og svare på indlæg.

Industry Reactions.

Det decentraliserede sociale netværk Fediverse har nået en milepæl på over en milliard månedlige indlæg på tværs af forskellige platforme, hvor Mastodon er et bemærkelsesværdigt alternativ til Twitter. Mens nogle kritiserer Mastodon for dets mindre brugerbase og manglende skalerbarhed, roser andre dets kvalitetsinteraktioner og fællesskabsdrevne følelse. Mastodon kæmper stadig for at vinde terræn i forhold til Twitter på grund af centraliseringen, og det præcise antal daglige aktive brugere (DAU'er) er ukendt. Fediverse rejser desuden bekymringer om søgefunktioner, UX-design og censurproblemer.

AWS-medarbejdere bruger "meget af deres tid på at "optimere kundernes skyer

Nyheder.

AWS-medarbejdere hjælper kunderne med at optimere deres AWS-udgifter, så de kan klare den usikre økonomi, fremgår det af Amazon.com's administrerende direktør Andy Jassys årlige brev til aktionærerne. Selv om AWS' væksthastighed er ved at aftage som følge af kundernes optimering af deres udgifter, oplever AWS stadig robuste pipelines for nye kunder og aktive migreringer. Jassy nævnte også AWS' hensigt om at udvikle mere specialfremstillet silicium og potentialet i Kuiper-satellitbredbåndstjenesten.

Industriens reaktioner.

AWS' personale bruger meget tid på at optimere kundernes skyer, og der er blandede anmeldelser af supporttjenesten, der spænder fra god grundlæggende support til problemer med forskellige supportniveauer for kunderne. Virksomhederne kan have svært ved at ansætte infraingeniører med den nødvendige viden, og overgangen til cloud kan føre til tab af viden om arbejdet med datacentre. Infrastruktur på stedet er omkostningstungt, og det kan være smertefuldt at drive flere datacentre, mens komplicerede cloud-arkitekturer kan skabe unødvendige driftsmæssige byrder. Omkostningseffektiviteten af cloud computing i forhold til on-premise computing er omdiskuteret, idet spidsbelastninger eller uforudsigelige belastninger favoriserer cloud computing. AWS konkurrerer med mindre, billigere cloud-udbydere, og udviklere kæmper med kompleks implementering, driftssupport og omkostningsoptimering. Cloud computing er blevet dyrt, og virksomheder flytter sig væk fra det afhængigt af deres brug, men kun få flytter sig til en on-prem-opsætning på grund af mangel på de nødvendige færdigheder.

Starship Flight Test [video]

Nyheder.

• SpaceX's seneste Starship-prototype, SN10, har gennemført en testflyvning og landing i stor højde med succes, hvilket gør den til den første prototype, der lander uden at eksplodere.
• SN10 var i stand til at stige til 10 km og foretage en nedstigning med maven først til landingsstedet, men en brand efter landingen forårsagede skader på raketten.
• SpaceX' administrerende direktør Elon Musk har meddelt, at virksomheden vil prioritere udviklingen af Super Heavy-boosteren, der skal kobles sammen med Starship til orbitalflyvninger.

Industriens reaktioner.

SpaceX planlægger at relancere Starship om 48 timer efter en afbrudt flyvetest på grund af et problem med en trykventil; brugerne på Hacker News diskuterer markedet og rentabiliteten af Starship, men artiklen diskuterer det potentielle paradigmeskift i økonomien for rumrejser, hvis raketten viser sig at være så genanvendelig, som Musk forudsiger. Kommentarerne kredser også om det centrale tema om opsendelsesbegivenhedens indvirkning på amerikanske tidszoner, og der er bekymring for, at demonstranter vil hindre SpaceX' tests.