2023-04-18

MiniGPT-4

Nieuws.

MiniGPT-4, een taalmodel dat een bevroren visuele encoder afstemt op een bevroren groot taalmodel, Vicuna, met behulp van slechts één projectielaag, beschikt over vergelijkbare mogelijkheden als GPT-4, zoals het genereren van gedetailleerde beeldbeschrijvingen en het schrijven van verhalen en gedichten geïnspireerd op gegeven beelden. Het model is rekenkundig zeer efficiënt: het gebruikt slechts ongeveer 5 miljoen uitgelijnde beeld-tekstparen en hoeft alleen de lineaire laag te trainen om de visuele kenmerken af te stemmen op het grote taalmodel van Vicuna. De makers bereiden een lichter model voor dat op een enkele 3090 GPU kan worden uitgevoerd voor toekomstig gebruik.

Reacties uit de industrie.

Onderzoekers creëren MiniGPT-4 model dat beter presteert dan andere door BLIP2's ViT-L+Q-former te koppelen aan Vicuna-13B met een lineaire laag en alleen de kleine laag te trainen op enkele beeld-tekst datasets. Andere opmerkingen betreffen modellen voor machinaal leren, het uitvoeren van LLM's op CPU's en het op de markt brengen van producten op basis van kleinere modellen. Onderzoekers van de King Abdullah University ontwikkelen Vicuna, een GPT-transformatiearchitectuur die computerprogramma's en websites genereert uit natuurlijke taal met verbeterde leerefficiëntie. De snellere en efficiëntere prestaties van GPTQ 4bit bieden interessante mogelijkheden voor videosamenvattingen en andere toepassingen voor software en technologie.

RedPajama: Overname van LLaMA met vriendelijke licentie

Nieuws.

RedPajama, een project om toonaangevende open-source modellen te creëren, begint met de reproductie van LLaMA-trainingdataset van meer dan 1,2 biljoen tokens; RedPajama heeft drie belangrijke componenten: pre-traininggegevens, basismodellen en instructietuninggegevens en -modellen; RedPajama heeft de volledige RedPajama 1,2 biljoen token-dataset vrijgegeven en een kleiner, meer consumeerbaar willekeurig monster kan worden gedownload via Hugging Face.

Reacties uit de industrie.

Together XYZ heeft RedPajama uitgebracht, een open-source taalmodel dataset die vier keer groter is dan de GPT-3 van OpenAI en tegemoet komt aan de kritiek van AI-onderzoekers op het gesloten karakter van de ontwikkeling en toepassing van taalmodellen. Commentaren op Hacker News verwijzen naar verschillende afgeleiden zoals Pythia, OpenAssistant, StableDiffusion en Midjourney, en belichten hun sterke en zwakke punten. Er is een voortdurende discussie over de copyrightability van AI-gewichten, en RedPajama staat voor uitdagingen bij het creëren van een duurzaam open-source AI-initiatief dat kan concurreren met big tech.

Samsung overweegt over te stappen op Bing als standaard zoekmachine

Nieuws.

Samsung is naar verluidt in gesprek met Microsoft om van Bing de standaard zoekmachine te maken op zijn Galaxy-toestellen, waaronder Android-smartphones en -tablets, waarbij Google in "paniekmodus" lijkt te zijn. Dit komt terwijl de race om de beste AI-mogelijkheden voor zoeken op het web steeds heviger wordt, waarbij Google werkt aan zijn tegenzet, Project 'Magi', die naar verluidt een veel persoonlijkere ervaring zal bieden dan de huidige dienst. Google heeft onlangs werknemers uitgenodigd om de AI op de zoekmachine te testen, met een mogelijke lancering in mei 2023.

Reacties uit de industrie.

Samsung overweegt over te schakelen op Bing als standaard zoekmachine, mogelijk vanwege de toegenomen advertentiedruk van Google op Google Cloud Platform (GCP) en om meer betalingen van Samsung en Apple af te persen. Bing zou Google kunnen overbieden in een mogelijke zoekmachinedeal, en Microsoft zet Samsung onder druk om een nieuw toestel te maken. Er is een debat over de achteruitgang van de kwaliteit en de SEO-tactieken van Google, waardoor gebruikers naar alternatieve zoekmachines zoals ChatGPT, DDG, Brave Search en Bing worden geduwd. Verder is de Linux-desktopervaring verbeterd, waarbij veel gebruikers voor hun werk voor Linux kiezen, terwijl Chromebooks de voorkeur genieten in de onderwijssector.

Ik vond deze eenvoudige rekenoefening leuk

Nieuws.

De auteur deelt een calculusoefening die vereist dat leerlingen begrijpen wat de integraal berekent, in plaats van te vertrouwen op vaste regels voor het integreren van gewone functies. Om het probleem op te lossen kunnen leerlingen gebruik maken van grafieken, ingewikkelde functies opdelen in eenvoudiger delen, omgaan met stuk-continue functies en gebruik maken van symmetrie. De oefening kan de leerlingen helpen waardevolle technieken te leren en te beseffen dat niet elk probleem kan worden opgelost door alleen maar symbolen te gebruiken.

Reacties uit de industrie.

Hacker News gebruikers bespreken het onderwijs in calculus en stellen meer oefeningen voor om begrip te testen. Ze stellen ook voor moderne software te gebruiken en de basisbegrippen tijdens de cursus te versterken. Bovendien delen ze bronnen voor het controleren van wiskundige modellen of oefeningen.

Opstarten van moderne Intel CPU's

Nieuws.

• Het opstarten van moderne Intel CPU's omvat het verifiëren van handtekeningen en het uitvoeren van Authenticated Code Modules (ACM's) voor het detecteren van aanvallen of malware.
• BootGuard, Intels beveiligingsoplossing voor opstarten, verifieert updates van de microcode, controleert op headers in de systeemflash, leest een ACM, verifieert de handtekening en voert de IBB in 32-bits modus uit.
• Het bericht bespreekt het vertrouwen op firmware voor het zware werk in plaats van het OS en is goed geschreven voor nieuwe lezers uit de tech-industrie zonder politieke/religieuze vooringenomenheid of externalisering van de tekst, maar zonder spannende of nieuwe aspecten.

Reacties uit de industrie.

Intel CPU's en de problemen met het opstarten van hulpprocessoren in meerdere systemen worden besproken, samen met manieren om deze problemen op te lossen door middel van functie-aanroepen en assemblagecode zonder gebruik te maken van geheugen of stacks. Sommige ontwikkelaars uiten hun frustratie over buggy firmware en onbetrouwbaarheid in producten, terwijl anderen tevreden blijven met goedkopere alternatieven die werken voor hun behoeften. Het gesprek gaat ook over legacy boot ondersteuning die wordt verlaten ten gunste van firmware-updates, waarbij real mode niet langer een rol speelt bij het opstarten van moderne besturingssystemen.

iOS 17 zal naar verluidt de weg vrijmaken voor sideloading van apps op iPhone

Nieuws.

Volgens een rapport van Bloomberg voegt Apple met de release van iOS 17 mogelijk de mogelijkheid toe om apps sideloaden op iPhones. Het bedrijf legt naar verluidt de basis voor een dergelijke functionaliteit en doet mogelijk een aankondiging hierover tijdens de komende Worldwide Developer Conference (WWDC) in juni. Het is onduidelijk of Apple sideloading met iOS 17 zal toestaan of dat het bedrijf slechts enkele wijzigingen aanbrengt op het niveau van het besturingssysteem om dit op een later tijdstip mogelijk te maken.

Reacties uit de sector.

Apple's iOS 17 maakt naar verluidt sideloading van apps op iPhones mogelijk; sommigen prijzen de stap, terwijl anderen zich zorgen maken over een afname van de beveiligingsmaatregelen. Het debat draait om een evenwicht tussen privacy- en veiligheidsbescherming en de mogelijkheid om apps van de computer te halen. Critici stellen dat Apple een monopolie heeft en gebruikers meer opties moet bieden, terwijl verdedigers wijzen op de betere privacy- en veiligheidsbescherming van Apple in vergelijking met concurrent Android.

De CEO van OpenAI zegt dat het tijdperk van gigantische AI-modellen al voorbij is.

Nieuws.

De CEO van OpenAI, Sam Altman, verklaarde dat het tijdperk van het maken van grote taalmodellen zoals GPT ten einde loopt. Hoewel OpenAI vooruitgang blijft boeken op het gebied van AI, zullen voor toekomstige stappen nieuwe ideeën nodig zijn, en volgens Altman niet alleen door modellen groter te maken. Veel goed gefinancierde startups proberen de technologie van OpenAI in te halen, en GPT-4 betekent een onverwachte wending in de race om nieuwe AI-algoritmen te ontwikkelen en in te zetten.

Reacties uit de industrie.

De CEO van OpenAI beweert dat grote AI-modellen niet langer economisch haalbaar zijn en dat toekomstige vooruitgang in AI zal komen van het verbeteren van modellen op andere manieren. Multimodale modellen zijn de nieuwe grens van het AI-onderzoek. Sommige deskundigen zijn sceptisch over de beweringen van OpenAI over de omvang en mogelijkheden van GPT-4, terwijl anderen wijzen op het potentieel voor exponentiële groei. OpenAI moet misschien nieuwe bronnen van trainingsgegevens vinden en de kwaliteit van het algoritme en de gegevens verbeteren voor betere AI-modellen. Discussies over de taalvaardigheid en beperkingen van GPT-4 hebben geleid tot gesprekken over het verbeteren van taalmodellen door multimodale mogelijkheden, efficiëntere trainingsdoelstellingen en optimizers, en verbeteringen in gegevensuitbreidingen.

Microsoft heeft de openbare ondersteuningsforums voor SwiftKey verwijderd.

News.

Deze tekst houdt geen verband met de titel "Microsoft heeft de openbare ondersteuningsforums voor SwiftKey verwijderd" en kan daarom niet dienovereenkomstig worden samengevat. Geef de juiste tekst zodat ik deze kan samenvatten.

Reacties uit de industrie.

Microsoft heeft openbare ondersteuningsforums voor SwiftKey verwijderd, waar gebruikers zich loyaal aan voelen omdat het hun typestijl leert en een verlengstuk van hun lichaam wordt; ze kunnen nu alleen het klantenondersteuningsteam van SwiftKey mailen met problemen. De commentaren gaan over verschillende onderwerpen, waaronder online identiteitscontrole en de gevolgen van te veel online tijd doorbrengen; andere gaan over kwesties van ableïsme en verslaving aan sociale media. Sommige commentaren gaan echter ook in op de sterke punten van SwiftKey, waaronder het leren van gemengde taalmodellen en het ergonomische ontwerp, waardoor het een onmisbaar alternatief is voor standaard toetsenbordopties op Android- en iOS-apparaten.

Geen broncode == Geen patent

Nieuws.

• Openbaarmaking van broncode in softwareoctrooien is belangrijk omdat het bewijst dat een uitvinder de uitvinding kan implementeren en een octrooi geloofwaardiger maakt, vooral in inbreukzaken.
• Het opnemen van broncode voldoet volledig aan de eis van schriftelijke beschrijving en bekwaamheid, waardoor het aantal aanvragen voor softwareoctrooien wordt verminderd en dubbelzinnigheid in ontwerpspecificaties wordt vermeden.
• Het artikel bespreekt rechtszaken en de huidige stand van octrooien in computertechnologie en digitale communicatie, en benadrukt de noodzaak van broncode in softwareoctrooien om de kwestie van redelijke experimenten op te lossen.

Reacties uit de industrie.

Het debat over de vraag of softwareoctrooien moeten worden afgeschaft of gehandhaafd wakkert de discussie aan op Hacker News, met argumenten voor en tegen de noodzaak van octrooien in het voorkomen van diefstal van onafhankelijk gecreëerde ideeën. Sommigen suggereren dat softwareoctrooien innovatie belemmeren en meer vereisen dan alleen een idee of concept, zoals een fysiek object of een werkkopie, terwijl anderen de relevantie van broncode en algoritmen voor octrooirechten ter discussie stellen.

Ik maakte mijn blog op zonne-energie, toen escaleerde de dingen

Nieuws.

Een blogger bouwde een systeem op zonne-energie voor zijn blog en computerbureau met behulp van zonnepanelen met een gecombineerd vermogen van 740 watt, gevoed door een 12-voltsysteem met een grote gebruikte loodaccu, Victron zonnelader, omvormer en Filax 2 schakelaar, en het verzamelen van gegevens omvat het gebruik van Python, InfluxDB en Grafana om gegevens te verzamelen en weer te geven. Voor de veiligheid en kostenbesparing wordt een overgedimensioneerde batterijbekabeling en het gebruik van een 24 of 48 Volt systeem aanbevolen, en wordt een verzegelde loodaccu gebruikt vanwege de veiligheid. Een dynamisch belastingsalgoritme voorkomt diepe ontlading van de batterij, en een donkere achtergrond kan stroom besparen.

Reacties uit de industrie.

Een Hacker News draad bespreekt de voor- en nadelen van het gebruik van verschillende soorten batterijen, waaronder loodzuur, LiFePo4, en solid-state batterijen, voor zonne-energieprojecten, en suggereert dat men zijn specifieke behoeften en doelen moet overwegen alvorens een batterijtype te kiezen. Experts delen inzichten over capaciteitstesten en plug-in vervangingen voor lood-zuur batterijen met lithium-ijzer-fosfaat (LiFePO4) batterijen, en hoewel LiFePO4 batterijen lichter en sneller op te laden zijn, zijn hun totale levensduurkosten nog steeds vergelijkbaar met die van lood-zuur batterijen. Andere opmerkingen bevatten tips voor het bouwen van zonne-energiesystemen, zoals het gebruik van USB-C-voedingen, het verdelen van het vermogen over fasen en het gebruik van 24V of gelijkstroomcomponenten, alsook suggesties voor alternatieve oplossingen zoals windturbines of panelen als dakbedekking.

Een verhaal verkocht: Hoe kinderen leren lezen zo verkeerd ging

Nieuws.

Het onderzoeksjournalistieke project "Sold a Story" van American Public Media ontkracht de huidige leermethoden in de leesprogramma's van scholen, die gebaseerd zijn op een allang bewezen idee over hoe kinderen leren lezen, oorspronkelijk van Marie Clay. Er worden echter producten met deze ontkrachte praktijken verkocht aan scholen in het hele land, waarbij Heinemann miljoenen dollars verdient en ouders, opvoeders en wetgevers oproepen tot veranderingen in het systeem. De artikelen bevatten interviews met invloedrijke opvoeders en politici, onderzoeksanalyses en begeleidend materiaal voor opvoeders en leden van de gemeenschap om de betreffende onderwerpen te bespreken.

Reacties uit de industrie.

Verschillende onderwijsbenaderingen voor het lezen van kinderen, zoals fonetiek en ouderbetrokkenheid, worden besproken, met de nadruk op geïndividualiseerde instructie en beoordeling. Opvoeders en academici debatteren over de doeltreffendheid van op fonetica gebaseerd onderwijs versus onderwijs in hele woorden, en het artikel waarschuwt voor blind vertrouwen in de mening van leerkrachten. De discussie bevat ook aanbevelingen voor nuttige bronnen voor ouders, waarbij de nadruk wordt gelegd op het belang van onderwijs in fonetiek voor leesvaardigheid, en de kwaliteit van het onderwijs op basisscholen staat momenteel ter discussie.

Het Windows 11 afvalfeest

Nieuws.

De auteur van het artikel klaagt over de standaardinhoud die verschijnt in het Startmenu van Windows 11, waaronder een nieuwsbericht over een massale schietpartij dat mogelijk ongepast is voor kinderen, en rotzooi van de MSN-startpagina in de waarschuwing voor het weer. Hoewel je deze inhoud kunt uitschakelen, suggereert het artikel dat de Windows-ervaring in het algemeen teleurstellend is.

Reacties uit de industrie.

Gebruikers uiten hun bezorgdheid over de identiteitscrisis van Microsoft en suggereren dat er behoefte is aan verduidelijking van hun visie en focus op het zijn van een OS voor ondernemingen. Men is ontevreden over Windows 11 en sommigen stellen voor Linux als alternatief te gebruiken. Windows' opdringerige advertenties, privacyproblemen en prestaties worden bekritiseerd. Het bericht is niet relevant voor technisch onderlegde lezers die geïnteresseerd zijn in de kritiek op Windows 11.

Maandelijkse Fediverse-posts overschrijden voor het eerst 1 miljard

News.

Volgens een recente gegevensanalyse hebben de maandelijkse berichten op Fediverse voor het eerst de grens van één miljard overschreden. Mastodon, een gedecentraliseerd sociaal netwerk aangedreven door Masto.ai, heeft 8,9K actieve gebruikers en biedt functies zoals het volgen van hashtags en profielen, favorieten, delen en antwoorden op posts.

Reacties uit de industrie.

Het gedecentraliseerde sociale netwerk Fediverse heeft een mijlpaal bereikt van meer dan een miljard maandelijkse berichten op verschillende platforms, waarbij Mastodon een opmerkelijk alternatief is voor Twitter. Terwijl sommigen Mastodon bekritiseren voor zijn kleinere gebruikersbestand en gebrek aan schaalbaarheid, prijzen anderen zijn kwaliteitsinteracties en zijn gemeenschapsgevoel. Mastodon heeft nog steeds moeite om terrein te winnen tegenover Twitter door de centralisatie, en het precieze aantal dagelijks actieve gebruikers (DAU's) is onbekend. Bovendien maakt de Fediverse zich zorgen over de zoekmogelijkheden, het UX-ontwerp en censuurproblemen.

AWS-medewerkers besteden 'veel van hun tijd aan het optimaliseren van clouds van klanten'

Nieuws.

AWS-medewerkers helpen klanten hun AWS-uitgaven te optimaliseren zodat zij de onzekere economie kunnen doorstaan, aldus de jaarlijkse brief van Amazon.com CEO Andy Jassy aan de aandeelhouders. Hoewel de groei van AWS vertraagt doordat klanten hun uitgaven optimaliseren, ziet AWS nog steeds robuuste pijplijnen voor nieuwe klanten en actieve migraties. Jassy noemde ook AWS's voornemen om meer maatwerksilicium te ontwikkelen en het potentieel van zijn Kuiper-satellietbreedbanddienst.

Reacties uit de industrie.

AWS-personeel besteedt veel tijd aan het optimaliseren van de clouds van klanten, met gemengde beoordelingen van de ondersteuningsdienst, variërend van geweldige basisondersteuning tot problemen met verschillende ondersteuningsniveaus voor klanten. Bedrijven kunnen moeite hebben om infratechnici met de nodige kennis in dienst te nemen, en de overgang naar de cloud kan leiden tot verlies van kennis over het werken met datacenters. On-premise infrastructuur is kostbaar en het runnen van meerdere datacenters kan pijnlijk zijn, terwijl gecompliceerde cloudarchitecturen onnodige operationele lasten kunnen creëren. De kostenefficiëntie van cloud computing versus on-premise computing staat ter discussie, waarbij piekbelastingen of onvoorspelbare belastingen de voorkeur genieten boven cloud computing. AWS concurreert met kleinere, goedkopere cloudproviders en ontwikkelaars worstelen met complexe implementatie, operationele ondersteuning en kostenoptimalisatie. Cloud computing is duur geworden, en bedrijven stappen ervan af, afhankelijk van hun gebruik, maar weinigen stappen over op een on-prem opstelling bij gebrek aan noodzakelijke vaardigheden.

Starship Flight Test [video]

Nieuws.

• SpaceX's laatste Starship prototype, SN10, heeft met succes een testvlucht en landing op grote hoogte uitgevoerd, waardoor het de eerste was die landde zonder te exploderen.
• De SN10 kon opstijgen tot 10 kilometer en een buik-eerste afdaling maken naar de landingsplaats, maar een brand na de landing veroorzaakte schade aan de raket.
• Elon Musk, CEO van SpaceX, heeft aangekondigd dat het bedrijf voorrang zal geven aan de ontwikkeling van de Super Heavy booster die samen met het Starship voor orbitale vluchten zal worden gebruikt.

Reacties uit de industrie.

SpaceX is van plan om Starship binnen 48 uur opnieuw te lanceren na een afgebroken vliegtest vanwege een probleem met de drukklep; gebruikers op Hacker News discussiëren over de markt en de winstgevendheid van Starship, maar het artikel bespreekt de potentiële paradigmaverschuiving in de economie van de ruimtevaart als de raket zo herbruikbaar blijkt te zijn als Musk voorspelt. Reacties gaan ook over het centrale thema van de impact van de lancering op Amerikaanse tijdzones, en er zijn zorgen over demonstranten die de tests van SpaceX hinderen.