Dokument podrobně popisuje jednoduchou implementaci v jazyce C/CUDA pro trénování rozsáhlých jazykových modelů, jako je GPT-2, aniž by se musel spoléhat na rozsáhlé rámce, jako je PyTorch.
Autor se zaměřuje na zvýšení rychlosti a efektivity implementace a nabízí pokyny pro získávání datových sad, inicializaci vah a trénování modelu v jazyce C, jakož i jednotkové testy a výukové programy pro zajištění přesnosti.
Projekt je open-source pod licencí MIT, což usnadňuje přístupnost a spolupráci v technologické komunitě.
Diskuse na Githubu se zabývá různými tématy, jako je strojové učení, návrh paměti GPU, GPT-2 pro předpovídání, omezení PyTorchu a alternativní GPU.
Nadšení uživatelé obdivují příspěvky Karpathyho a zároveň si vyměňují postřehy o technických problémech, vylepšeních a tréninku jazykových modelů s TPU od Googlu.
V rozhovoru se probírá kapacita paměti, přístupové metody, optimalizace knihoven ML, různé datové struktury, programovací jazyky a automatizovaná správa zdrojů při kódování.
Lore Harp McGovernová založila prosperující počítačovou společnost Vector Graphic, ale později se potýkala s problémy vedoucími k bankrotu a navzdory svému přínosu v technologickém průmyslu a filantropii byla zastíněna mužskými průkopníky.
Zpravodaj obsahuje povzbudivé příběhy, jako je ten Garethův, a každodenní eseje na různá témata.
Ženy se v technologickém průmyslu setkávají s problémy a diskriminací, zejména v oborech, kde dominují muži, jako jsou technologie.
Úspěšné příběhy, jako je mikropočítačové impérium Lore Harp McGovernové, jsou zastíněny genderovými předsudky, které jsou patrné ve srovnání s mužskými osobnostmi, jako je Steve Jobs.
Zdůrazňování významu programů rozmanitosti a boje proti předsudkům při přijímání zaměstnanců a v kultuře na pracovišti je zásadní pro podporu inkluzivnějšího technologického prostředí.
Profesionální hráči hry Go se potýkali s nedostatkem dovedností, dokud umělá inteligence, zejména AlphaGo, nepředvedla vynikající schopnosti, což vedlo ke zlepšení rozhodování a kreativity hráčů.
Ke změně trendu ve hře Go došlo 18 měsíců po vydání AlphaGo, což souviselo se spuštěním open-source enginu Leela Zero, který spolu s nástroji jako Lizzie umožnil přístup k uvažování umělé inteligence, podpořil vstupní učení a uvolnil lidskou kreativitu.
Vztahy mezi lidmi a umělou inteligencí v soutěžních oblastech, které jsme viděli v šachu a hře Go, ukazují, že umělá inteligence může pozvednout lidské dovednosti a posunout pokrok za stávající hranice.
Diskutuje se o vlivu umělé inteligence na hry jako Go a šachy a zaměřuje se na to, jak počítačová analýza pomáhá hráčům zlepšit jejich hru.
Doporučuje se zavést v šachu systém povyšování a sestupu, aby se podpořila agresivnější hra.
Debata se zabývá také potenciálem umělé inteligence v oblasti zábavy, umění a hudební tvorby a zdůrazňuje význam lidské kreativity a úsudku v různých oblastech.
Webová stránka notepad-plus-plus.org je pod palbou kritiky kvůli podvodným taktikám, jako je přesměrování uživatelů na oficiální stránku Notepad++, což vyvolává obavy z podvodných odkazů ke stažení.
Uživatelé se obávají bezpečnostních dopadů webu a motivů zisku z reklamy, což vyvolává diskuse o jeho možném podvodném chování.
Diskutuje se o škodlivých úmyslech a zdůrazňuje se význam stahování softwaru pouze z oficiálních kanálů, aby se zmírnila rizika spojená s podvodnými webovými stránkami, a klade se důraz na kontrolu domény a ochranu značky.
Allenův institut pro umělou inteligenci spustil OLMo 7B, otevřený rámec pro velké jazykové modely, který usnadňuje výzkumným pracovníkům a vývojářům společný pokrok ve vědě o jazykových modelech.
OLMo obsahuje předtréninková data, tréninkový kód a hodnotící sady pro přesný a udržitelný výzkum umělé inteligence s cílem podpořit transparentnost a spolupráci.
OLMo je k dispozici na stránkách Hugging Face a GitHub a podporuje zodpovědný vývoj technologií umělé inteligence ve prospěch výzkumné komunity.
Debata se soustředí na licencování a otevřenost jazykového modelu OLMo z allenai.org, zdůrazňuje potřebu zprávy o dopadu odvozených děl a jako alternativu vyzdvihuje datovou sadu Pile.
Zkoumají se právní a etické problémy týkající se datové sady Pile, trénování modelů na platformě AMD s Databricks, potenciální rizika uzavřených systémů AI a výzva k otevřenějším a transparentnějším systémům AI.
Rozhovor se zabývá zaujatostí, transparentností, ochranou autorských práv a hledáním rovnováhy mezi uměleckou svobodou a etickými aspekty při vývoji modelů, přičemž se zmiňuje o konkurentech, jako je Llama, a porovnává se s uzavřenými modely společností, jako jsou OpenAI a Anthropic.
Vala je objektově orientovaný programovací jazyk, který je bezproblémově kompatibilní s nástroji GNOME, jako jsou GObject a GTK, a nabízí vysokoúrovňové abstrakce a rychlou nativní binární kompilaci.
Usnadňuje využití již existujícího kódu v jazyce C, takže je optimální pro tvorbu aplikací s grafickým uživatelským rozhraním, nástrojů příkazového řádku a knihoven a může se pochlubit živou podporou komunity open source.
Uživatelé se mohou ponořit do projektů Vala, zapojit se do komunitních diskusí na platformách jako Discord a Matrix, přičemž aktuální verze je 0.56.13 a neustále se vyvíjí.
Rozhovor se věnuje programovacímu jazyku Vala, jeho roli při vytváření GTK a dalších frameworků, zejména v projektech jako Frida a Dino, a debatám o přechodu k přenositelnějším řešením, jako je Electron, a výzvám s frameworky, jako je Sciter.
Diskutuje se také o alternativách, jako jsou Qt a AvaloniaUI, se zaměřením na snížení velikosti kódu, integraci různých sad nástrojů GUI a porovnání správy paměti a kompatibility ABI s jazyky, jako jsou Swift, C# a Java.
Uživatelé vyjadřují jak nostalgii po jednoduchosti Valy při vývoji aplikací GTK, tak zájem o potenciální upgrady, jako je případné přijetí moderních technologií, jako je Flutter, a zdůrazňují jedinečné aspekty Valy, výzvy a oblasti pro vylepšení vývoje desktopových aplikací v rámci komunity GNOME.
Blocky Blocky je proxy server DNS a blokátor reklam určený pro místní sítě, vyvinutý v jazyce Go, který nabízí funkce, jako je filtrován í dotazů DNS pomocí externích seznamů, individuální černé a bílé seznamy pro každou skupinu klientů, pokročilé možnosti nastavení DNS, podpora více protokolů, robustní opatření pro zabezpečení a ochranu soukromí, možnosti integrace a uživatelsky přívětivé rozhraní.
Platforma upřednostňuje jednoduchost, výkonnost a pomoc komunity, neshromažďuje žádné údaje o uživatelích a poskytuje kód s otevřeným zdrojovým kódem.
Blocky Blocky klade velký důraz na soukromí uživatelů, a proto je spolehlivou volbou pro správu dotazů DNS v místních sítích.
Diskuse se zaměřuje na nástroje pro blokování DNS, jako jsou Blocky, Pi-hole, AdGuard Home a dnscrypt-proxy, které zvyšují bezpečnost a soukromí na internetu.
Uživatelé hovoří o technikách blokování reklam, jako jsou blokátory na úrovni sítě, rozšíření prohlížeče a alternativy YouTube podporující blokování reklam.
V souvislosti s blokováním reklam vznikají problémy s nefunkčností některých webových stránek, ale řešení, jako je Pi-hole Remote a rozšíření prohlížeče, nabízejí možnosti dočasného vypnutí a ukazují výhody a nevýhody používání různých nástrojů pro blokování DNS pro lepší prohlížení internetu a zabezpečení sítě.
Nová funkce Najít moje zařízení v systému Android umožňuje uživatelům vyhledávat ztracená zařízení a předměty s využitím rozsáhlé sítě více než miliardy zařízení se systémem Android.
Nabízí několik možností sledování, například offline sledování polohy, podporu tagů Bluetooth, sledování blízkosti, integraci se zařízeními Nest a možnost sdílení příslušenství s kontakty.
Funkce zaručuje bezpečnost, soukromí a funguje se zařízeními se systémem Android 9 a novějším, přičemž v nejbližší době budou do sítě Find My Device integrována sluchátka značek jako JBL a Sony.
Na fóru se diskutuje o různých sledovacích zařízeních, jako jsou Tile a Apple AirTags, a porovnávají se jejich funkce, omezení a účinnost proti krádeži.
Uživatelé se zabývají problémy interoperability mezi technologickými společnostmi, otázkami ochrany soukromí při sledování polohy a výzvou ke standardizaci odvětví.
Návrhy zahrnují využití technologie UWB, začlenění hardwarových přepínačů pro kontrolu soukromí a vylepšení systémů sledování zařízení, přičemž vyjadřují obavy z nadvlády společností Apple a Google na trhu, která potlačuje inovace menších podniků.
Rozhovor se věnuje různým síťovým tématům, jako je vývoj technologie Ethernet, zvyšování rychlosti sítě a debaty o přechodu z IPv4 na IPv6 nebo dokonce IPv7.
Zabývá se také problémy, jako je rozšiřování adresního prostoru, lokální adresy v protokolu IPv6 a výhody a nevýhody přijetí nových síťových protokolů.
Celkově diskuse poukazuje na složitosti a faktory, které je třeba vzít v úvahu při vylepšování a vylaďování síťové infrastruktury.
Společnost Cloudflare se ve svém datovém centru v Portlandu potýkala s významným výpadkem proudu, druhým během pěti měsíců, ale díky vylepšením se zotavila rychleji a s minimálním narušením služeb.
Výpadek byl způsoben příliš citlivou nadproudovou ochranou v rozváděčích, která je nyní opravena, protože tým se prioritně zaměřuje na dokončení programu odolnosti pro platformu Analytics, aby se zabránilo manuálním zásahům, a spolupracuje se společností Flexential na provozních vylepšeních.
Společnost Cloudflare je i nadále odhodlána poskytovat spolehlivé služby, vytvářet pracovní příležitosti a usilovat o provozní dokonalost.
Společnost Cloudflare zažila významný výpadek napájení datového centra, což vedlo k jednání o nasazení systémů UPS na úrovni racků pro prevenci budoucích incidentů.
Důraz byl kladen na redundanci napájení, údržbu zařízení a bezpečnost v datových centrech spravovaných třetí stranou, a to v návaznosti na historii výpadků společnosti Cloudflare a strategie jejich zmírňování.
Diskutovalo se o bezpečnostních rizicích, jednotlivých bodech selhání a řešeních, jako jsou clustery Kubernetes, geografické chyby, tolerance a možnost více clusterů nad jedním celosvětovým clusterem pro zvýšení spolehlivosti v distribuovaných architekturách.
Reverst je reverzní tunelový server s vyrovnáváním zátěže a knihovna Go server-klient založená na QUIC a HTTP/3, která usnadňuje vystavení služby na veřejném internetu z omezených sítí.
Podporuje více instancí služeb za jedním tunelem, přičemž binární tunel je umístěn ve veřejném internetu a klientské servery se připojují k cílovým skupinám tunelů.
Chcete-li použít Reverst, spusťte tunelový server a ukázkový server a posílejte požadavky přes tunel pomocí curl.
Příspěvek představuje Reverst, projekt využívající reverzní tunely v jazyce Go přes protokoly HTTP/3 a QUIC, který je výhodný pro ladění v případě často se měnících IP adres a přerušených dlouhotrvajících spojení.
Jako možnosti k dosažení podobných cílů jsou uváděny také alternativní nástroje, jako je Zerotier, wireguard a wstunnel.
Obsahuje návrhy na vylepšení, odkazy na související projekty a další zdroje pro další zkoumání.
Článek zkoumá bezpečnostní důsledky D-Busu a Polkitu ve verzi KDE6 a zaměřuje se na zranitelnosti a vylepšení těchto komponent.
Zdůrazňuje problémy spojené s nezabezpečenými službami D-Bus ve starších balíčcích, potřebu bezpečného ověřování v akcích Polkit a rizika spojená s operacemi se souborovým systémem v komponentách KDE.
Doporučení zahrnují používání rámce KAuth, řešení bezpečnostních rizik vyplývajících ze služeb D-Bus spuštěných s právy roota a přijetí bezpečných postupů, jako je zrušení práv a používání popisovačů souborů místo cest při operacích v prostředí KDE.
Vydání prostředí KDE6 vyvolalo diskuse o bezpečnosti, které se zaměřují na zranitelnosti D-Busu a PolKitu, a uživatelé jsou znepokojeni zranitelností agentů PolKitu a nedostatkem informací v dialogových oknech pro zvýšení oprávnění.
Srovnání s bezpečnostními funkcemi systémů Android a Windows poukazuje na význam návrhu robustních bezpečnostních opatření.
Uživatelé se také zabývají vývojem prostředí KDE, vylepšeními v prostředí Plasma Mobile a odlehčenou povahou prostředí Plasma 5, sdílejí zkušenosti se změnou prostředí a zkoumají možná vylepšení v systémech Linux, jako jsou alternativní protokoly IPC a delegování schopností pro jednodušší řešení.
Současný správce projektu Stow hledá spolusprávce z důvodu udržitelnosti, což vyžaduje znalost jazyka Perl, znalost systému Stow, dovednosti v oblasti revizí kódu, systému git a open-source projektů, dobrou komunikaci a efektivní koordinaci.
Nový spolusprávce se musí účinně angažovat, vyhnout se nabízení pomoci bez následných opatření a flexibilně se angažovat.
Zájemce vyzýváme, aby se zapojili tím, že si prohlédnou a odešlou žádosti o stažení (PR).
Uživatelé diskutují o užitečnosti GNU Stow při práci s balíčky a dotfiles spolu s alternativními nástroji, jako jsou YADM, Chezmoi a Nix.
Názory na účinnost systému Stow pro správu balíčků se různí, což vede k diskusím o různých přístupech ke konfiguraci instalací softwaru v systémech Unix.
Rozhovor se zabývá správou symlinků, verzemi softwaru, používáním skriptů Perl a dlouhověkostí programovacích jazyků.