2023-04-18

MiniGPT-4

Novinky.

Jazykový model MiniGPT-4, který sladí zmrazený vizuální kodér se zmrazeným velkým jazykovým modelem Vicuna pomocí pouze jedné projekční vrstvy, disponuje podobnými schopnostmi, jaké vykazuje GPT-4, jako je generování podrobných popisů obrázků a psaní příběhů a básní inspirovaných danými obrázky. Model je vysoce výpočetně efektivní, využívá pouze přibližně 5 milionů zarovnaných dvojic obraz-text a vyžaduje pouze trénování lineární vrstvy pro zarovnání vizuálních rysů s velkým jazykovým modelem Vicuna. Tvůrci připravují pro budoucí použití lehčí model spustitelný na jediném grafickém procesoru 3090.

Reakce průmyslu.

Výzkumníci vytvářejí model MiniGPT-4, který překonává ostatní, propojením ViT-L+Q-formeru BLIP2 s Vicunou-13B s lineární vrstvou a trénováním pouze drobné vrstvy na některých sadách obrazových a textových dat. Další komentáře se týkají modelů strojového učení, běhu LLM na procesorech a marketingových produktů založených na menších modelech. Výzkumníci z Univerzity krále Abdulláha vyvíjejí Vicunu, architekturu GPT transformátoru, která generuje počítačové programy a webové stránky z přirozeného jazyka se zvýšenou efektivitou učení. Rychlejší a efektivnější výkon GPTQ 4bit představuje zajímavé možnosti pro shrnutí videa a další aplikace pro software a techniku.

RedPajama: Reprodukce LLaMA s přátelskou licencí

Novinky.

RedPajama, projekt na vytvoření špičkových open-source modelů, začíná reprodukcí trénovacího datasetu LLaMA o více než 1,2 bilionu tokenů; RedPajama má tři klíčové součásti: předtréninková data, základní modely a data a modely pro ladění instrukcí; RedPajama zveřejnila kompletní dataset RedPajama o 1,2 bilionu tokenů a menší náhodný vzorek, který lze lépe spotřebovat, lze stáhnout prostřednictvím služby Hugging Face.

Reakce odvětví.

Společnost XYZ společně vydala otevřenou sadu dat jazykových modelů RedPajama, která je čtyřikrát větší než datová sada GPT-3 společnosti OpenAI a reaguje na kritiku výzkumníků v oblasti umělé inteligence ohledně uzavřenosti vývoje a nasazení jazykových modelů. Komentáře na serveru Hacker News odkazují na různé deriváty, jako jsou Pythia, OpenAssistant, StableDiffusion a Midjourney, a zdůrazňují jejich silné a slabé stránky se zaměřením na kvalitu obrazu a kontrolu. V současné době probíhá debata o autorskoprávní ochraně vah umělé inteligence a RedPajama čelí výzvám při vytváření udržitelné iniciativy v oblasti umělé inteligence s otevřeným zdrojovým kódem, která by mohla konkurovat velkým technologiím.

Samsung zvažuje přechod na Bing jako výchozí vyhledávač

News.

Společnost Samsung údajně jedná se společností Microsoft o tom, aby se Bing stal výchozím vyhledávačem v jejích zařízeních Galaxy, včetně chytrých telefonů a tabletů se systémem Android, přičemž se zdá, že společnost Google je v "panickém stavu". To přichází v době, kdy se rozhořívá závod o nejlepší schopnosti umělé inteligence ve webovém vyhledávání, přičemž Google pracuje na svém protikusu, projektu "Magi", který údajně poskytne mnohem personalizovanější zážitek než jeho současná služba. Google nedávno vyzval zaměstnance, aby umělou inteligenci ve vyhledávači otestovali, přičemž její spuštění je možné v květnu 2023.

Reakce odvětví.

Společnost Samsung zvažuje přechod na Bing jako svůj výchozí vyhledávač, a to potenciálně kvůli zvýšenému tlaku společnosti Google na reklamu na platformě Google Cloud Platform (GCP) a kvůli vymačkání dalších plateb od společností Samsung a Apple. Bing by mohl v potenciální dohodě o vyhledávači předstihnout Google a Microsoft tlačí na Samsung, aby vytvořil nové zařízení. Diskutuje se o poklesu kvality a taktiky SEO společnosti Google, což uživatele tlačí k alternativním vyhledávačům, jako jsou ChatGPT, DDG, Brave Search a Bing. Kromě toho se zlepšilo prostředí pro práci s Linuxem, pro které se rozhodlo mnoho uživatelů, zatímco Chromebooky jsou preferovány ve vzdělávacím sektoru.

Líbilo se mi toto jednoduché cvičení na počítání

Novinky.

Autor sdílí cvičení z matematiky, které vyžaduje, aby studenti pochopili, co integrál počítá, a nespoléhali se jen na nastavená pravidla pro integrování běžných funkcí. Při řešení úlohy mohou studenti využít grafické znázornění, rozdělení složitých funkcí na jednodušší části, práci s kusově spojitými funkcemi a využití symetrie. Cvičení může studentům pomoci osvojit si cenné postupy a poznatek, že ne každý problém lze vyřešit pouhým posunováním symbolů.

Průmyslové reakce.

Uživatelé serveru Hacker News diskutují o výuce počtů a navrhují další cvičení k ověření porozumění. Navrhují také používání moderního softwaru a upevňování základních pojmů v průběhu celého kurzu. Kromě toho sdílejí zdroje pro ověřování matematických modelů nebo cvičení.

Zavádění moderních procesorů Intel

Novinky.

• Zavádění moderních procesorů Intel zahrnuje ověřování podpisů a spouštění modulů ověřeného kódu (ACM) pro detekci útoků nebo malwaru.
• BootGuard, bezpečnostní řešení společnosti Intel pro zavádění systému, ověřuje aktualizace mikrokódu, kontroluje hlavičky v systémové paměti flash, čte ACM, ověřuje jeho podpis a spouští IBB v 32bitovém režimu.
• Příspěvek pojednává o spoléhání se na firmware pro těžké úlohy namísto OS a je dobře napsaný pro nové čtenáře z technologického průmyslu bez politické/náboženské zaujatosti nebo externalizace textu, ale bez jakýchkoli vzrušujících nebo nových aspektů.

Reakce průmyslu.

Diskutuje se o procesorech Intel a potížích se zaváděním pomocných procesorů ve více systémech a o způsobech řešení těchto problémů pomocí volání funkcí a kódu assembleru bez použití paměti nebo zásobníků. Někteří vývojáři vyjadřují frustraci z chybného firmwaru a nespolehlivosti produktů, zatímco jiní zůstávají spokojeni s levnějšími alternativami, které fungují pro jejich potřeby. Rozhovor se také týká opuštění podpory staršího zavádění ve prospěch aktualizací firmwaru, přičemž reálný režim již nehraje roli při zavádění moderních operačních systémů.

iOS 17 údajně připraví půdu pro sideloading aplikací na iPhonu

Zprávy.

Podle zprávy agentury Bloomberg společnost Apple možná s vydáním systému iOS 17 přidá možnost sideloadovat aplikace na telefony iPhone. Společnost údajně vytváří základy pro takovou funkci a možná s ní učiní oznámení na nadcházející červnové konferenci WWDC (Worldwide Developer Conference). Není jasné, zda Apple umožní sideloading s iOS 17, nebo zda pouze provádí některé změny na úrovni operačního systému, aby jej umožnil později v budoucnu.

Reakce odvětví.

Systém iOS 17 od společnosti Apple údajně umožňuje sideloading aplikací v telefonech iPhone; někteří tento krok chválí, jiní se obávají snížení bezpečnostních opatření. Debata se soustředí na vyvážení ochrany soukromí a bezpečnosti s možností sideloadovat aplikace. Kritici naznačují, že společnost Apple má monopol a musí uživatelům nabídnout více možností, zatímco obhájci poukazují na lepší ochranu soukromí a zabezpečení společnosti Apple ve srovnání s konkurenčním systémem Android.

Generální ředitel společnosti OpenAI říká, že doba obřích modelů umělé inteligence již skončila

Zprávy.

Generální ředitel společnosti OpenAI Sam Altman prohlásil, že éra vytváření velkých jazykových modelů, jako je GPT, se chýlí ke konci. Přestože společnost OpenAI pokračuje v pokrocích v oblasti umělé inteligence, budoucí pokroky budou vyžadovat nové nápady a podle Altmana nebudou vycházet jen z toho, že se modely budou zvětšovat. Mnoho dobře financovaných startupů se snaží dohnat technologii OpenAI a GPT-4 signalizuje nečekaný zvrat v závodě o vývoj a nasazení nových algoritmů AI.

Reakce odvětví.

Generální ředitel společnosti OpenAI tvrdí, že velké modely AI již nejsou ekonomicky proveditelné a budoucí pokrok v oblasti AI bude vycházet ze zlepšování modelů jinými způsoby. Novou hranicí výzkumu v oblasti AI jsou multimodální modely. Někteří odborníci jsou k tvrzením společnosti OpenAI ohledně velikosti a schopností modelu GPT-4 skeptičtí, zatímco jiní poukazují na jeho potenciál exponenciálního růstu. Společnost OpenAI bude možná muset najít nové zdroje tréninkových dat a zlepšit kvalitu algoritmu a dat pro lepší modely AI. Diskuse o jazykových kompetencích a omezeních GPT-4 vedly k rozhovorům o zlepšování jazykových modelů prostřednictvím multimodálních schopností, efektivnějších tréninkových cílů a optimalizátorů a pokroku v rozšiřování dat.

Microsoft odstranil veřejná fóra podpory pro SwiftKey

News.

Tento text nesouvisí s názvem "Microsoft smazal fóra veřejné podpory pro SwiftKey", a proto jej nelze odpovídajícím způsobem shrnout. Prosím, uveďte správný text, který mám shrnout.

Reakce odvětví.

Společnost Microsoft odstranila veřejná fóra podpory pro klávesnici SwiftKey, ke které se uživatelé cítí loajální, protože se naučí jejich styl psaní a stane se prodlouženou rukou jejich těla; nyní mohou s problémy psát pouze e-mail týmu zákaznické podpory SwiftKey. Komentáře se týkají různých témat, včetně ověřování totožnosti online a důsledků trávení příliš mnoho času online; další se týkají problematiky ableismu a závislosti na sociálních médiích. V některých komentářích se však hovoří také o silných stránkách klávesnice SwiftKey, včetně učení smíšeného jazykového modelu a ergonomického designu, díky čemuž se stává základní alternativou ke standardním možnostem klávesnic v zařízeních se systémy Android a iOS.

Žádný zdrojový kód == Žádný patent

Novinky.

• Zveřejnění zdrojového kódu v softwarových patentech je důležité, protože dokazuje, že vynálezce může vynález realizovat, a dodává patentu důvěryhodnost, zejména v případech porušení práv.
• Zahrnutí zdrojového kódu plně vyhovuje požadavku na písemný popis a umožnění, což snižuje počet přihlášek softwarových patentů a zabraňuje nejednoznačnosti specifikací návrhu.
• Článek se zabývá právními případy a současným stavem patentů v oblasti výpočetní techniky a digitálních komunikací a zdůrazňuje potřebu zdrojového kódu v softwarových patentech, aby se vyřešila otázka přiměřeného experimentování.

Reakce průmyslu.

Debata o tom, zda by softwarové patenty měly být zrušeny, nebo zachovány, vyvolává na serveru Hacker News diskusi, v níž se objevují argumenty pro i proti nezbytnosti patentů při prevenci krádeží nezávisle vytvořených nápadů. Někteří naznačují, že softwarové patenty brání inovacím a vyžadují více než jen nápad nebo koncept, například fyzický objekt nebo funkční kopii, zatímco jiní diskutují o významu zdrojového kódu a algoritmů pro patentová práva.

Udělal jsem svůj blog na solární pohon, pak se věci vyhrotily.

Novinky.

Bloger si postavil systém na solární pohon pro provoz svého blogu a počítačového stolu pomocí solárních panelů s celkovým výkonem 740 W, napájených prostřednictvím 12voltového systému s velkou použitou olověnou baterií, solární nabíječkou Victron, měničem a přepínačem Filax 2. Sběr dat zahrnuje použití Pythonu, InfluxDB a Grafany pro sběr a zobrazení dat. Kvůli bezpečnosti a snížení nákladů se doporučuje naddimenzovaná kabeláž baterie a použití 24 nebo 48voltového systému a pro jeho bezpečnost se používá uzavřená olověná baterie. Algoritmus dynamické zátěže zabraňuje hlubokému vybití baterie a tmavě laděné pozadí může šetřit energii.

Reakce průmyslu.

Vlákno na serveru Hacker News se zabývá výhodami a nevýhodami použití různých typů baterií, včetně olověných, LiFePo4 a polovodičových baterií, pro projekty solární energie a navrhuje, aby člověk před rozhodnutím o typu baterie zvážil své konkrétní potřeby a cíle. Odborníci sdílejí poznatky o testování kapacity a zásuvných náhradách olověných baterií pomocí lithium-železo-fosfátových (LiFePO4) baterií, a přestože baterie LiFePO4 mohou být lehčí a rychleji se nabíjejí, jejich celkové náklady na životnost jsou stále srovnatelné s náklady na olověné baterie. V dalších komentářích jsou uvedeny tipy pro budování solárních systémů, jako je použití napájecích zdrojů USB-C, rozdělení výkonu na fáze a použití 24V nebo stejnosměrných komponent, a také jsou navržena alternativní řešení, jako jsou větrné turbíny nebo panely jako střešní krytina.

Sold a Story: Jak se výuka čtení pro děti zvrtla?

News.

Investigativní novinářský projekt amerických veřejnoprávních médií "Sold a Story" vyvrací současné metody výuky ve školních programech čtení, které jsou založeny na dávno vyvrácené myšlence o tom, jak se děti učí číst, kterou původně předložila Marie Clayová. Produkty využívající tyto vyvrácené postupy se však prodávají školám po celé zemi, Heinemann na nich vydělává miliony dolarů a rodiče, pedagogové a zákonodárci volají po změně systému. Součástí článků jsou rozhovory s vlivnými pedagogy a politiky, analýzy výzkumů a návodné materiály pro pedagogy a členy komunity k diskusi o daných tématech.

Reakce průmyslu.

Diskutovány jsou různé přístupy k výuce dětského čtenářství, např. fonetika a zapojení rodičů, s důrazem na individuální výuku a hodnocení. Pedagogové a akademici diskutují o efektivitě výuky založené na fonice oproti výuce založené na celém slově a článek varuje před slepou důvěrou v názory učitelů. Součástí diskuse jsou také doporučení užitečných zdrojů pro rodiče, zdůrazňuje se význam výuky fonetiky pro zdokonalení čtení a v současné době se diskutuje o kvalitě výuky na základních školách.

The Windows 11 Trash Party

Novinky.

Autor článku si stěžuje na výchozí obsah, který se objevuje v nabídce Start systému Windows 11, včetně zprávy o masové střelbě, která by mohla být nevhodná pro děti, a na odpadky z domovské stránky MSN v upozornění na informace o počasí. Přestože lze tento obsah vypnout, článek naznačuje, že prostředí systému Windows je celkově zklamáním.

Reakce odvětví.

Uživatelé vyjadřují obavy z krize identity společnosti Microsoft a naznačují potřebu vyjasnění její vize a zaměření na to, že je operačním systémem pro podnikové korporace. Je vyjádřena nespokojenost s Windows 11 a někteří navrhují jako alternativu používat Linux. Kritizovány jsou vtíravé reklamy, obavy o soukromí a výkon systému Windows. Příspěvek je pro technicky zdatné čtenáře, kteří se zajímají o kritiku Windows 11, irelevantní.

Měsíční počet příspěvků ve Fediverse poprvé překročil 1 miliardu.

News.

Podle nedávné analýzy dat překročil měsíční počet příspěvků na Fediverse poprvé hranici jedné miliardy. Mastodon, decentralizovaná sociální síť poháněná Masto.ai, se může pochlubit 8,9 tisíci aktivními uživateli a nabízí funkce, jako je sledování hashtagů a profilů, oblíbení, sdílení a odpovídání na příspěvky.

Reakce odvětví.

Decentralizovaná sociální síť Fediverse dosáhla milníku více než jedné miliardy příspěvků měsíčně na různých platformách, přičemž Mastodon je pozoruhodnou alternativou k Twitteru. Zatímco někteří Mastodon kritizují za menší uživatelskou základnu a nedostatečnou škálovatelnost, jiní chválí jeho kvalitní interakce a komunitní charakter. Mastodon se kvůli centralizaci stále snaží prosadit proti Twitteru a jeho přesný počet denních aktivních uživatelů (DAU) není znám. Fediverse navíc vznáší obavy ohledně možností vyhledávání, designu UX a problémů s cenzurou.

Zaměstnanci AWS tráví "většinu svého času 'optimalizací cloudů zákazníků'".

Zprávy.

Podle výročního dopisu generálního ředitele společnosti Amazon.com Andyho Jassyho akcionářům pomáhají zaměstnanci AWS zákazníkům optimalizovat jejich výdaje na AWS, aby mohli přečkat nejistou ekonomickou situaci. Ačkoli se tempo růstu AWS v důsledku optimalizace výdajů zákazníků zpomaluje, AWS stále zaznamenává silné přírůstky nových zákazníků a aktivní migrace. Jassy také zmínil záměr společnosti AWS vyvíjet více vlastního křemíku a potenciál její satelitní širokopásmové služby Kuiper.

Reakce průmyslu.

Zaměstnanci společnosti AWS tráví hodně času optimalizací cloudů zákazníků, přičemž hodnocení služeb podpory se různí, od skvělé základní podpory až po problémy s různými úrovněmi podpory pro zákazníky. Společnosti mohou mít problém najmout infrainženýry s potřebnými znalostmi a přechod na cloud může vést ke ztrátě znalostí týkajících se práce s datovými centry. Místní infrastruktura je nákladově nevýhodná a provozování více datových center může být bolestivé, zatímco složité cloudové architektury mohou vytvářet zbytečnou provozní zátěž. Diskutuje se o nákladové efektivitě cloud computingu oproti on-premise computingu, přičemž ve prospěch cloud computingu hovoří prudké nebo nepředvídatelné zatížení. AWS konkurují menší a levnější poskytovatelé cloudových služeb a vývojáři se potýkají se složitým nasazením, provozní podporou a optimalizací nákladů. Cloud computing se stal drahým a společnosti od něj v závislosti na jeho využití odcházejí, ale jen málo z nich přechází na on-prem nastavení kvůli nedostatku potřebných dovedností.

Letový test hvězdné lodi [video]

Novinky.

• Nejnovější prototyp lodi Starship společnosti SpaceX, SN10, úspěšně dokončil zkušební let a přistání ve velké výšce, čímž se stal prvním, který přistál, aniž by explodoval.
• SN10 dokázala vystoupat do výšky 10 km a provést sestup břichem napřed na místo přistání, ale požár po přistání způsobil poškození rakety.
• Generální ředitel společnosti SpaceX Elon Musk oznámil, že společnost bude prioritně vyvíjet nosnou raketu Super Heavy, která by se spojila s lodí Starship pro lety na oběžnou dráhu.

Reakce průmyslu.

Společnost SpaceX plánuje obnovit start Starshipu do 48 hodin po přerušeném letovém testu kvůli problému s tlakovým ventilem; uživatelé na serveru Hacker News diskutují o trhu a ziskovosti Starshipu, ale článek pojednává o potenciální změně paradigmatu v ekonomice cestování do vesmíru, pokud se raketa ukáže být tak znovupoužitelná, jak Musk předpovídá. Komentáře se také točí kolem ústředního tématu dopadu akce startu na časová pásma v USA a objevují se obavy z protestujících, kteří by mohli bránit testům SpaceX.