2023-04-18

MiniGPT-4

Novinky.

MiniGPT-4, jazykový model, ktorý zosúlaďuje zmrazený vizuálny kodér so zmrazeným veľkým jazykovým modelom Vicuna pomocou iba jednej projekčnej vrstvy, disponuje podobnými schopnosťami, aké vykazuje GPT-4, ako je generovanie podrobných opisov obrázkov a písanie príbehov a básní inšpirovaných danými obrázkami. Model je vysoko výpočtovo efektívny, využíva len približne 5 miliónov zarovnaných dvojíc obraz-text a vyžaduje len trénovanie lineárnej vrstvy na zarovnanie vizuálnych prvkov s veľkým jazykovým modelom Vicuna. Tvorcovia pripravujú do budúcnosti ľahší model spustiteľný na jednom grafickom procesore 3090.

Reakcie odvetvia.

Výskumníci vytvorili model MiniGPT-4, ktorý prekonáva ostatné, prepojením ViT-L+Q-formátora BLIP2 s Vicuna-13B s lineárnou vrstvou a trénovaním len malej vrstvy na niektorých obrazovo-textových súboroch údajov. Ďalšie pripomienky sa týkajú modelov strojového učenia, spúšťania LLM na CPU a marketingových produktov založených na menších modeloch. Výskumníci z Univerzity kráľa Abdulláha vyvíjajú Vicunu, architektúru GPT transformátora, ktorá generuje počítačové programy a webové stránky z prirodzeného jazyka so zvýšenou efektivitou učenia. Rýchlejší a efektívnejší výkon GPTQ 4bit predstavuje zaujímavé možnosti pre sumarizáciu videa a ďalšie aplikácie pre softvér a techniku.

RedPajama: Reprodukcia LLaMA s priateľskou licenciou

Novinky.

RedPajama, projekt na vytvorenie špičkových modelov s otvoreným zdrojovým kódom, začína reprodukciou tréningového súboru údajov LLaMA s viac ako 1,2 bilióna tokenov; RedPajama má tri kľúčové komponenty: predtréningové údaje, základné modely a údaje a modely na ladenie inštrukcií; RedPajama zverejnila úplný súbor údajov RedPajama s 1,2 bilióna tokenov a menšiu náhodnú vzorku, ktorá sa dá viac spotrebovať, si možno stiahnuť prostredníctvom Hugging Face.

Reakcie odvetvia.

Spoločnosť XYZ spoločne vydala RedPajama, súbor údajov jazykových modelov s otvoreným zdrojovým kódom, ktorý je štyrikrát väčší ako súbor GPT-3 poháňaný spoločnosťou OpenAI a rieši kritiku výskumníkov v oblasti umelej inteligencie týkajúcu sa uzavretého charakteru vývoja a nasadenia jazykových modelov. Komentáre na Hacker News sa týkajú rôznych derivátov, ako sú Pythia, OpenAssistant, StableDiffusion a Midjourney, pričom zdôrazňujú ich silné a slabé stránky so zameraním na kvalitu a kontrolu obrazu. Prebieha diskusia o autorských právach na váhy AI a RedPajama čelí výzvam pri vytváraní udržateľnej iniciatívy AI s otvoreným zdrojovým kódom, ktorá by mohla konkurovať veľkým technológiám.

Samsung zvažuje prechod na Bing ako predvolený vyhľadávač

Novinky.

Spoločnosť Samsung údajne rokuje so spoločnosťou Microsoft o tom, aby sa vyhľadávač Bing stal predvoleným vyhľadávačom v jej zariadeniach Galaxy vrátane smartfónov a tabletov so systémom Android, pričom sa zdá, že spoločnosť Google je v "panickom režime". To prichádza v čase, keď sa rozbiehajú preteky o najlepšie schopnosti umelej inteligencie vo webovom vyhľadávaní, pričom spoločnosť Google pracuje na svojom protikuse, projekte "Magi", ktorý bude údajne poskytovať oveľa personalizovanejší zážitok ako jej súčasná služba. Spoločnosť Google nedávno vyzvala zamestnancov, aby otestovali umelú inteligenciu vo vyhľadávači s možným spustením v máji 2023.

Reakcie odvetvia.

Spoločnosť Samsung zvažuje prechod na Bing ako svoj predvolený vyhľadávač, potenciálne kvôli zvýšenému reklamnému tlaku spoločnosti Google na platformu Google Cloud Platform (GCP) a s cieľom vytlačiť viac platieb od spoločností Samsung a Apple. Bing by mohol v potenciálnej dohode o vyhľadávači prekonať Google a Microsoft tlačí na Samsung, aby vytvoril nové zariadenie. Diskutuje sa o poklese kvality a taktike SEO spoločnosti Google, čo tlačí používateľov k alternatívnym vyhľadávačom, ako sú ChatGPT, DDG, Brave Search a Bing. Okrem toho sa zlepšilo prostredie linuxových počítačov, pričom mnohí používatelia sa rozhodli pre Linux na prácu, zatiaľ čo Chromebooky sa uprednostňujú vo vzdelávacom sektore.

Páčilo sa mi toto jednoduché cvičenie na počítanie

Novinky.

Autor sa delí o cvičenie z počítania, ktoré vyžaduje, aby študenti pochopili, čo integrál počíta, a nespoliehali sa len na stanovené pravidlá integrovania bežných funkcií. Pri riešení úlohy môžu študenti využiť grafické znázornenie, rozklad zložitých funkcií na jednoduchšie časti, prácu s kusovo spojitými funkciami a využitie symetrie. Úloha môže žiakom pomôcť osvojiť si cenné techniky a postreh, že nie každý problém sa dá vyriešiť len posúvaním symbolov.

Priemyselné reakcie.

Používatelia Hacker News diskutujú o vyučovaní počtov a navrhujú ďalšie cvičenia na overenie porozumenia. Navrhujú tiež používať moderný softvér a posilňovať základné pojmy počas celého kurzu. Okrem toho sa delia o zdroje na overovanie matematických modelov alebo cvičení.

Zavedenie moderných procesorov Intel

Novinky.

• Zavádzanie moderných procesorov Intel zahŕňa overovanie podpisov a spúšťanie modulov autentizovaného kódu (ACM) na zisťovanie útokov alebo škodlivého softvéru.
• BootGuard, bezpečnostné riešenie spoločnosti Intel pre zavádzanie systému, overuje aktualizácie mikrokódu, kontroluje hlavičky v systémovej pamäti flash, číta ACM, overuje jeho podpis a vykonáva IBB v 32-bitovom režime.
• Príspevok pojednáva o spoliehaní sa na firmvér pri ťažkých úlohách namiesto OS a je dobre napísaný pre nových čitateľov z technologického odvetvia bez politickej/náboženskej zaujatosti alebo externalizácie textu, ale bez akýchkoľvek vzrušujúcich alebo nových aspektov.

Reakcie odvetvia.

Diskutuje sa o procesoroch Intel a ťažkostiach so zavádzaním pomocných procesorov vo viacerých systémoch, ako aj o spôsoboch riešenia týchto problémov prostredníctvom volania funkcií a kódu assembleru bez použitia pamäte alebo zásobníkov. Niektorí vývojári vyjadrujú frustráciu z chybného firmvéru a nespoľahlivosti produktov, zatiaľ čo iní zostávajú spokojní s lacnejšími alternatívami, ktoré fungujú pre ich potreby. Rozhovor sa zaoberá aj tým, že sa upúšťa od podpory staršieho zavádzania systému v prospech aktualizácií firmvéru, pričom reálny režim už nehrá úlohu pri zavádzaní moderných operačných systémov.

iOS 17 údajne vytvorí podmienky pre sideloading aplikácií na iPhone

Novinky.

Podľa správy agentúry Bloomberg spoločnosť Apple možno s vydaním systému iOS 17 pridá možnosť sideloadovania aplikácií na telefóny iPhone. Spoločnosť údajne vytvára základy pre takúto funkciu a možno s ňou bude súvisieť oznámenie na nadchádzajúcej júnovej celosvetovej vývojárskej konferencii (WWDC). Nie je jasné, či spoločnosť Apple umožní sideloading so systémom iOS 17, alebo či len robí nejaké zmeny na úrovni operačného systému, aby ho umožnila neskôr.

Reakcie odvetvia.

Systém iOS 17 od spoločnosti Apple údajne umožňuje sideloading aplikácií v telefónoch iPhone; niektorí tento krok chvália, iní sa obávajú zníženia bezpečnostných opatrení. Diskusia sa sústreďuje na vyváženie ochrany súkromia a bezpečnosti s možnosťou sideloadovať aplikácie. Kritici naznačujú, že spoločnosť Apple má monopol a musí používateľom ponúknuť viac možností, zatiaľ čo obhajcovia poukazujú na lepšiu ochranu súkromia a bezpečnosti spoločnosti Apple v porovnaní s konkurenčným systémom Android.

Generálny riaditeľ spoločnosti OpenAI hovorí, že éra obrovských modelov umelej inteligencie sa už skončila

Novinky.

Generálny riaditeľ spoločnosti OpenAI Sam Altman uviedol, že éra vytvárania veľkých jazykových modelov, ako je GPT, sa blíži ku koncu. Hoci spoločnosť OpenAI naďalej robí pokroky v oblasti umelej inteligencie, budúce pokroky si budú vyžadovať nové nápady a podľa Altmana neprídu len vďaka zväčšovaniu modelov. Mnohé dobre financované startupy sa snažia dobehnúť technológiu OpenAI a GPT-4 signalizuje nečakaný zvrat v pretekoch o vývoj a nasadenie nových algoritmov AI.

Reakcie odvetvia.

Generálny riaditeľ spoločnosti OpenAI tvrdí, že veľké modely AI už nie sú ekonomicky uskutočniteľné a budúci pokrok v oblasti AI bude vychádzať zo zlepšovania modelov inými spôsobmi. Novou hranicou výskumu v oblasti AI sú multimodálne modely. Niektorí odborníci sú skeptickí voči tvrdeniam spoločnosti OpenAI o veľkosti a schopnostiach modelu GPT-4, zatiaľ čo iní poukazujú na jeho potenciál exponenciálneho rastu. OpenAI možno bude musieť nájsť nové zdroje tréningových údajov a zlepšiť kvalitu algoritmu a údajov pre lepšie modely AI. Diskusie o jazykových kompetenciách a obmedzeniach GPT-4 viedli k rozhovorom o zlepšovaní jazykových modelov prostredníctvom multimodálnych schopností, efektívnejších tréningových cieľov a optimalizátorov a pokroku v rozširovaní údajov.

Spoločnosť Microsoft odstránila verejné fóra podpory pre SwiftKey

News.

Tento text nesúvisí s názvom "Microsoft vymazal verejné fóra podpory pre SwiftKey", a preto ho nemožno zodpovedajúcim spôsobom zhrnúť. Prosím, uveďte správny text, aby som ho mohol zhrnúť.

Reakcie odvetvia.

Spoločnosť Microsoft odstránila verejné fóra podpory pre klávesnicu SwiftKey, ku ktorej sa používatelia cítia lojálni, pretože sa naučí ich štýl písania a stane sa predĺženou rukou ich tela; teraz môžu s problémami posielať e-maily len tímu zákazníckej podpory spoločnosti SwiftKey. Komentáre sa týkajú rôznych tém vrátane overovania totožnosti online a dôsledkov trávenia príliš veľa času online; iné sa týkajú problematiky ableizmu a závislosti od sociálnych médií. V niektorých komentároch sa však diskutuje aj o silných stránkach klávesnice SwiftKey vrátane učenia zmiešaných jazykových modelov a ergonomického dizajnu, vďaka čomu sa stáva základnou alternatívou k základným možnostiam klávesníc v zariadeniach so systémami Android a iOS.

Žiadny zdrojový kód == Žiadny patent

Novinky.

• Zverejnenie zdrojového kódu v softvérových patentoch je dôležité, pretože dokazuje, že vynálezca môže vynález realizovať, a zvyšuje dôveryhodnosť patentu, najmä v prípadoch porušenia práv.
• Zahrnutie zdrojového kódu v plnej miere spĺňa požiadavku na písomný opis a umožnenie, čím sa znižuje počet žiadostí o softvérový patent a predchádza sa nejednoznačnosti v špecifikáciách dizajnu.
• V článku sa rozoberajú právne prípady a súčasný stav patentov v oblasti počítačových technológií a digitálnej komunikácie, pričom sa zdôrazňuje potreba zdrojového kódu v softvérových patentoch na vyriešenie otázky primeraného experimentovania.

Reakcie priemyslu.

Diskusia o tom, či by sa mali softvérové patenty zrušiť alebo zachovať, vyvoláva na portáli Hacker News diskusiu, v ktorej sa uvádzajú argumenty za a proti nevyhnutnosti patentov pri predchádzaní krádeži nezávisle vytvorených nápadov. Niektorí naznačujú, že softvérové patenty bránia inováciám a vyžadujú viac než len nápad alebo koncept, napríklad fyzický objekt alebo funkčnú kópiu, zatiaľ čo iní diskutujú o relevantnosti zdrojového kódu a algoritmov pre patentové práva.

Urobil som svoj blog na solárny pohon, potom sa veci vyostrili

Novinky.

Bloger si postavil systém poháňaný slnečnou energiou na prevádzku svojho blogu a počítačového stola pomocou solárnych panelov s kombinovaným výkonom 740 W, napájaných prostredníctvom 12-voltového systému s veľkou použitou olovenou batériou, solárnou nabíjačkou Victron, meničom a prepínačom Filax 2. Zhromažďovanie údajov zahŕňa používanie programov Python, InfluxDB a Grafana na zhromažďovanie a zobrazovanie údajov. Kvôli bezpečnosti a zníženiu nákladov sa odporúča nadrozmerná kabeláž batérie a použitie 24 alebo 48 V systému a pre jej bezpečnosť sa používa uzavretá olovená batéria. Algoritmus dynamického zaťaženia zabraňuje hlbokému vybitiu batérie a tmavé tematické pozadie môže šetriť energiu.

Reakcie priemyslu.

Vo vlákne Hacker News sa diskutuje o výhodách a nevýhodách používania rôznych typov batérií vrátane olovených, LiFePo4 a polovodičových batérií na projekty solárnej energie a navrhuje, aby človek pred rozhodnutím o type batérie zvážil svoje konkrétne potreby a ciele. Odborníci sa delia o poznatky o testovaní kapacity a zásuvných náhradách olovených batérií pomocou lítiovo-železito-fosfátových batérií (LiFePO4), a hoci batérie LiFePO4 môžu byť ľahšie a rýchlejšie sa nabíjajú, ich celkové náklady na životnosť sú stále porovnateľné s nákladmi na olovené batérie. V ďalších komentároch sa uvádzajú tipy na budovanie solárnych systémov, ako napríklad používanie napájacích zdrojov USB-C, rozdelenie výkonu na fázy a používanie 24V alebo DC komponentov, ako aj návrhy alternatívnych riešení, ako sú veterné turbíny alebo panely ako strešná krytina.

Predaný príbeh: Ako sa učenie detí čítať zvrtlo

Novinky.

Investigatívny novinársky projekt amerických verejnoprávnych médií "Sold a Story" vyvracia súčasné vyučovacie metódy v školských programoch čítania, ktoré sú založené na dávno vyvrátenej myšlienke o tom, ako sa deti učia čítať, ktorú pôvodne predložila Marie Clayová. Produkty využívajúce tieto vyvrátené postupy sa však predávajú školám v celej krajine, pričom spoločnosť Heinemann zarába milióny dolárov a rodičia, pedagógovia a zákonodarcovia žiadajú zmeny v systéme. Články obsahujú rozhovory s vplyvnými pedagógmi a politikmi, analýzy výskumov a metodické materiály pre pedagógov a členov komunity na diskusiu o daných témach.

Reakcie odvetvia.

Diskutuje sa o rôznych prístupoch k výučbe čítania detí, ako je fonika a zapojenie rodičov, s dôrazom na individualizovanú výučbu a hodnotenie. Pedagógovia a akademici diskutujú o účinnosti výučby založenej na fonike v porovnaní s výučbou celého slova a článok varuje pred slepou dôverou v názory učiteľov. Diskusia obsahuje aj odporúčania užitočných zdrojov pre rodičov, pričom sa zdôrazňuje význam výučby fonetiky pre zdokonaľovanie čítania a v súčasnosti sa diskutuje o kvalite vzdelávania na základných školách.

The Windows 11 Trash Party

Novinky.

Autor článku sa sťažuje na predvolený obsah, ktorý sa objavuje v ponuke Štart systému Windows 11, vrátane správy o masovej streľbe, ktorá môže byť nevhodná pre deti, a odpadu z domovskej stránky MSN v upozornení na informácie o počasí. Hoci tento obsah môžete vypnúť, článok naznačuje, že prostredie systému Windows je celkovo sklamaním.

Reakcie odvetvia.

Používatelia vyjadrujú obavy z krízy identity spoločnosti Microsoft a naznačujú potrebu objasnenia jej vízie a zamerania na to, že je operačným systémom pre podnikové korporácie. Vyjadruje sa nespokojnosť so systémom Windows 11 a niektorí navrhujú ako alternatívu používať Linux. Kritizujú sa vtieravé reklamy, obavy o súkromie a výkon systému Windows. Príspevok je pre technicky zdatných čitateľov, ktorí sa zaujímajú o kritiku systému Windows 11, nepodstatný.

Mesačný počet príspevkov v službe Fediverse prvýkrát prekročil 1 miliardu

News.

Podľa nedávnej analýzy údajov mesačný počet príspevkov na Fediverse prvýkrát prekročil jednu miliardu. Mastodon, decentralizovaná sociálna sieť poháňaná Masto.ai, sa môže pochváliť 8,9 tisíc aktívnymi používateľmi a ponúka funkcie ako sledovanie hashtagov a profilov, favorizovanie, zdieľanie a odpovedanie na príspevky.

Reakcie odvetvia.

Decentralizovaná sociálna sieť Fediverse dosiahla míľnik viac ako jednej miliardy mesačných príspevkov na rôznych platformách, pričom Mastodon je významnou alternatívou k Twitteru. Zatiaľ čo niektorí kritizujú Mastodon za menšiu používateľskú základňu a nedostatočnú škálovateľnosť, iní chvália jeho kvalitné interakcie a komunitný charakter. Mastodon sa stále snaží presadiť proti Twitteru kvôli centralizácii a jeho presný počet denných aktívnych používateľov (DAU) nie je známy. Okrem toho Fediverse vzbudzuje obavy týkajúce sa možností vyhľadávania, dizajnu UX a problémov s cenzúrou.

Zamestnanci AWS trávia "väčšinu svojho času "optimalizáciou cloudov zákazníkov

Novinky.

Podľa výročného listu generálneho riaditeľa spoločnosti Amazon.com Andyho Jassyho akcionárom pomáhajú zamestnanci AWS zákazníkom optimalizovať ich výdavky na AWS, aby mohli prežiť neistú ekonomickú situáciu. Hoci sa tempo rastu spoločnosti AWS v dôsledku optimalizácie výdavkov zákazníkov spomaľuje, spoločnosť AWS stále zaznamenáva robustné dodávky nových zákazníkov a aktívne migrácie. Jassy tiež spomenul zámer spoločnosti AWS vyvíjať viac vlastného kremíka a potenciál jej satelitnej širokopásmovej služby Kuiper.

Reakcie odvetvia.

Zamestnanci AWS trávia veľa času optimalizáciou cloudov zákazníkov, pričom recenzie na služby podpory sú zmiešané, od skvelej základnej podpory až po problémy s rôznymi úrovňami podpory pre zákazníkov. Spoločnosti môžu mať problém zamestnať infrainžinierov s potrebnými znalosťami a prechod na cloud môže viesť k strate znalostí týkajúcich sa práce s dátovými centrami. Lokálna infraštruktúra je nákladovo neúnosná a prevádzka viacerých dátových centier môže byť bolestivá, zatiaľ čo komplikované cloudové architektúry môžu vytvárať zbytočnú prevádzkovú záťaž. Diskutuje sa o nákladovej efektívnosti cloud computingu v porovnaní s on-premise computingom, pričom prudké alebo nepredvídateľné zaťaženie uprednostňuje cloud computing. AWS konkuruje menším, lacnejším poskytovateľom cloudových služieb a vývojári bojujú s komplexným nasadením, prevádzkovou podporou a optimalizáciou nákladov. Cloud computing sa stal drahým, spoločnosti od neho odchádzajú v závislosti od jeho využitia, ale len málo z nich prechádza na on-prem nastavenie z dôvodu nedostatku potrebných zručností.

Letový test hviezdnej lode [video]

Novinky.

• Najnovší prototyp lode Starship spoločnosti SpaceX, SN10, úspešne absolvoval testovací let a pristátie vo veľkej výške, čím sa stal prvým, ktorý pristál bez explózie.
• SN10 dokázala vystúpiť do výšky 10 kilometrov a vykonať zostup na miesto pristátia brušnou časťou, ale požiar po pristátí spôsobil poškodenie rakety.
• Generálny riaditeľ spoločnosti SpaceX Elon Musk oznámil, že spoločnosť sa bude prioritne venovať vývoju nosnej rakety Super Heavy, ktorá sa bude spájať s raketou Starship na orbitálne lety.

Reakcie priemyslu.

SpaceX plánuje obnoviť štart Starshipu do 48 hodín po prerušenom letovom teste kvôli problému s tlakovým ventilom; používatelia na Hacker News diskutujú o trhu a ziskovosti Starshipu, ale v článku sa diskutuje o potenciálnej zmene paradigmy v ekonomike vesmírnych ciest, ak sa raketa ukáže ako opakovane použiteľná, ako predpovedá Musk. Komentáre sa točia aj okolo ústrednej témy vplyvu štartovacieho podujatia na časové pásma v USA a objavujú sa aj obavy, že protestujúci budú brániť testom spoločnosti SpaceX.