跳至主要内容

2024-07-16

“在 AMD GPU 上運行未修改的 CUDA”

  • SCALE by Spectral Compute 是一個 GPGPU(通用圖形處理單元計算)程式設計工具包,能夠在不修改原始 CUDA 程式碼或建置系統的情況下,將 CUDA 應用程式原生編譯為適用於 AMD GPU。
  • “SCALE 作為 NVIDIA 的 nvcc 編譯器的替代品,能夠無縫整合現有的建置工具和腳本,並支援各種開源 CUDA 專案,如 NVIDIA Thrust 和 Blender Cycles。”
  • 目前,SCALE 支援 AMD GPU,例如 gfx1030(Navi 21,RDNA 2.0)和 gfx1100(Navi 31,RDNA 3.0),並且正在開發對其他 GPU 架構的支援。

評論

  • 討論的重點在於在 AMD GPU 上運行 CUDA(統一計算設備架構)的可行性及其影響,並強調了技術和法律上的挑戰。
  • 「有些人認為在 AMD GPU 上支援 CUDA 翻譯層是不切實際的,並建議專注於像 PyTorch 這樣的開源專案。」
  • 「HIP(異構計算介面以提高可移植性)被提及為將 CUDA 程式碼移植到 AMD GPU 的一種潛在低成本解決方案,儘管它並非完全不需要任何努力。」

「為了廣告,Firefox 現在預設收集用戶數據」

  • Firefox 最新版本現在預設收集用戶數據,並引入了隱私保護歸因(PPA)以進行匿名廣告測量,這引發了爭議。
  • 「批評者認為,這種預設的數據收集削弱了用戶的信任,並質疑 Mozilla 增加收入的意圖,挑戰了 Firefox 的隱私聲譽。」
  • “PPA 使用聚合伺服器來匿名化數據,但對於數據離開用戶電腦以及未來廣告商可能存取的擔憂依然存在。”

評論

  • 「Firefox 已經開始預設收集用戶數據以用於廣告目的,這可以在設定中的隱私與安全性選項中停用。」
  • 用戶反映,停用此功能的設定不易搜尋,且無法在不同裝置間同步。
  • Mozilla 的首席技術官聲稱該功能在隱私和廣告測量之間取得了平衡,但用戶的懷疑和批評依然存在。

「Exo:使用日常設備在家中運行自己的 AI 叢集」

  • Exo 允許用戶使用日常設備如 iPhone、iPad、Android、Mac 和 Linux 系統在家中建立 AI 叢集,無需昂貴的 NVIDIA GPU。
  • 「主要特點包括廣泛的模型支援(例如 LLaMA)、動態模型分割、自動裝置發現,以及與 ChatGPT 相容的 API,全部使用點對點連接而無需主從架構。」
  • Exo 是實驗性軟體,因此使用者應預期會遇到早期的錯誤,並且鼓勵回報問題和貢獻給社群。

評論

  • Exo 允許用戶在家中使用日常設備運行自己的 AI 叢集,提供了一個雲端 AI 計算的替代方案。
  • 該專案支援各種硬體,包括舊手機和筆記型電腦,旨在提供隱私保護、客製化和離線存取 AI 模型的功能。
  • 討論強調了本地和雲端 AI 模型之間的取捨,包括成本、性能和隱私,一些使用者更偏好本地設置來處理個人或敏感數據。

“Horizon – Imgur 的私人替代方案”

  • 「James,一位來自加拿大的17歲全端工程師,開發了一個名為Horizon Pics的檔案託管服務,專注於安全性、隱私和使用者需求,且無廣告或數據銷售。」
  • 最近,Horizon Pics 進行了品牌重塑,並推出了一款名為 Alpine 的新桌面應用程式,該應用程式會自動上傳螢幕截圖和剪貼簿內容,並提供自動刪除和端對端加密等功能。
  • 這款應用程式是使用現代技術如 Tauri、TypeScript、SvelteKit、Sass 和 Rust 建構的,Horizon Pics 提供免費和付費方案,並具有不同的存儲限制。

評論

  • 「Horizon Pics 是由一位來自加拿大的 17 歲全端工程師開發的,這是一個 Imgur 的私人替代方案,提供無廣告且安全的檔案託管服務。」
  • “該服務最近推出了重新品牌化,包括一個名為 Alpine 的新桌面應用程式,該應用程式可以自動上傳螢幕截圖和剪貼簿內容,並提供隱私選項。”
  • “Horizon Pics 提供有限儲存空間的免費方案和儲存上限較高的付費方案,旨在吸引尋求注重隱私的檔案託管解決方案的用戶。”

藥品定價的黑手黨

  • FTC 的新報告揭露了幾家被比喻為黑手黨的醫療集團,通過藥品定價控制了美國 4% 的資金。
  • 「藥品福利管理者(PBMs)被認為是通過控制定價和將資金轉向自身來抬高藥品價格的關鍵角色。」
  • FTC 的行動和潛在的立法變更旨在解決藥品福利管理公司(PBM)壟斷藥品定價所導致的顯著成本上升問題。

評論

  • 這篇文章討論了製藥行業中的不道德行為,特別是涉及藥品福利管理者(PBMs)和製藥公司的問題。
  • 「主要問題包括處方數據的銷售、作為回扣的合法『折扣』以及財務獎勵對醫療診斷和處方的影響。」
  • 這段對話強調了需要透明度和規範來解決市場扭曲問題,並保護患者免受不道德行為和藥價高漲的影響。

工程師的深度學習指南:理解 Transformer 模型

  • 這份文件《工程師的深度學習指南》提供了對理解 Transformer 模型的全面指導,這是 2017 年推出的一項重要 AI 突破。
  • “它包括神經網路、RNN(循環神經網路)、NLP(自然語言處理)和注意力機制的基本概念,並附有可運行的 Python 程式碼範例和進一步探索的參考資料。”
  • 於2024年5月21日發布,供教育和非商業用途免費使用,由資深軟體程式設計師及人工智慧愛好者鈴木博信(Hironobu SUZUKI)撰寫。

評論

  • 這篇文章討論了各種理解深度學習中 Transformer 模型的資源,並強調了免費和付費選項。
  • 推薦包括《The Annotated Transformer》、《Transformers from Scratch》、Andrej Karpathy 的系列,以及 3Blue1Brown 的視覺介紹。
  • 「關於 Keras 的相關性存在爭論,有些使用者指出其在學術界和業界的影響力正在減弱,並且更偏好使用 JAX,而另一些人則提到 Keras 3 支援多個後端。」

Codestral Mamba

  • “2024年7月16日,Mistral AI 推出了 Codestral Mamba,一種由 Albert Gu 和 Tri Dao 開發的新架構,提供線性時間推理和建模無限長度序列的能力。”
  • 「Codestral Mamba 在提升程式碼生產力方面非常高效,其性能可與最先進(SOTA)的變壓器模型相媲美,並且支援最多 256k 個標記的上下文檢索。」
  • 「該模型可通過各種 SDK 部署,原始權重可在 HuggingFace 上獲得,並且在 Apache 2.0 許可證下免費提供,而 Codestral 22B 則有商業和社群許可證。」

評論

  • 「Codestral Mamba 是 Mistral.ai 推出的新型號,因其獨特的架構和功能而引起了廣泛關注。」
  • 該模型支援 256k 上下文標記,並提供線性推理時間,使其在與基於 Transformer 的模型競爭時具有優勢。
  • 「目前正在討論將 Codestral Mamba 整合到 VS Code 和 IntelliJ 等開發環境中,但目前的支援有限。」

揭露塔斯基吉梅毒研究的告密者彼得·巴克斯頓逝世

  • 「彼得·巴克斯頓(Peter Buxtun),揭露不道德的塔斯基吉梅毒研究的告密者,於86歲辭世。」
  • “Buxtun 的揭露導致了1972年該研究的終止、國會聽證會以及為受害者提供的一千萬美元賠償。”
  • 他將這項研究與納粹醫學實驗進行比較,促使政府制定新的研究規範,突顯了他對醫學研究倫理標準的重大影響。

評論

  • 「揭露不道德塔斯基吉梅毒研究的告密者彼得·巴克斯頓已經去世。」
  • Buxtun 對於這項研究的擔憂,該研究對患有梅毒的非裔美國男性隱瞞治療,這些擔憂在六年內都被忽視,直到後來才引起注意。
  • 「塔斯基吉研究產生了持久的影響,包括導致非裔美國人社區對疫苗的猶豫,以及突顯了醫學研究中的系統性種族歧視。」

測謊儀的錯覺

  • 「賈斯汀·聖·傑曼透過他在申請海關與邊境保護局工作時進行測謊測試的經歷,探討了記憶、自傳和神話之間模糊的界線。」
  • 「他主張,通常被視為測謊器的測謊儀實際上是創造真相而非偵測真相,並將其與回憶錄寫作進行了類比。」
  • “Germain 討論了測謊儀的爭議歷史、其在逼供中的使用及其在彰顯國家權力中的象徵性角色,強調了其缺陷以及美國對簡單、可檢測真相的痴迷。”

評論

  • 作者回憶起在十九歲時因為工作中的盜竊嫌疑而接受了測謊測試,儘管他是無辜的。
  • 測謊儀因其用於強迫供認而非準確偵測謊言而受到批評,這常常導致壓力和不可靠的結果。
  • 「儘管其準確性存疑,測謊儀仍然在職業篩選和刑事調查中被用作恐嚇工具。」

Surface Pro 4 上的 Linux 評測

  • 作者嘗試在一台原本於2016年購買的 Surface Pro 4 上安裝 Linux,以探討其在網路瀏覽、媒體消費和繪圖等各種使用情境中的可行性。
  • 「使用 EndeavourOS 和 Fedora Workstation 40 安裝 Linux 非常簡單,但平板功能存在問題,例如鬼觸、差勁的手掌拒識以及睡眠期間顯著的電池消耗。」
  • 「由於這些問題,作者恢復使用 Windows 10,發現它更符合自己的需求,但在 Windows 10 明年停止支援後,可能會重新考慮使用 Linux。」

評論

  • 「一篇關於在 Surface Pro 4 上運行 Linux 的評論引發了廣泛討論,突顯了用戶在不同硬體上使用 Linux 的各種經驗。」
  • 「許多使用者會將他們在其他設備上使用 Linux 的經驗進行比較,例如 Dell XPS 和 ThinkPad,並指出像是睡眠模式、電源管理和硬體整合等問題。」
  • “這段對話強調了在 Linux 上實現無縫硬體與軟體整合的挑戰,這與 MacBooks 上的 macOS 類似,主要是由於裝置驅動程式開發的複雜性所致。”

「珠寶商如何捕捉每一粒金粉?(2017)」

  • 「Mastermelt 的 Gary Williams 負責管理商業廢料的燃燒,以回收貴金屬,珠寶商會收集工作坊中每一粒金粉進行處理。」
  • 這個過程涉及將材料加熱到攝氏2000度,以回收像是黃金和鉑金等金屬,並且利用先進的技術和科技來捕捉更多的廢料。
  • “珠寶商與精煉商之間的信任至關重要,而該行業不斷改進方法以最大化貴金屬的回收率。”

評論

  • 「珠寶商採用細緻的方法來捕捉每一粒金粉,包括升級窗戶、現場洗衣和拆除地板。」
  • 「這些做法讓人聯想到歷史上的努力,例如曼哈頓計畫中從地板和設備回收銀的行動。」
  • “像雪梨和紐約這樣的城市裡的珠寶商會從工作坊的地板和人行道上回收黃金,這強調了這個行業的資源利用能力和極少的材料損失。”

開放協作工具

  • 「Open Collaboration Tools 是一個開源專案,旨在通過即時共享整合開發環境(IDE)內容來增強遠端團隊合作。」
  • 主要功能包括 VS Code 和 Eclipse Theia 的擴充套件、一個用於身份驗證和協作的伺服器應用程式,以及具有端到端加密的開放協議。
  • 該專案通過提供無供應商鎖定、絕對的可擴展性、靈活的部署選項以及在 MIT 許可證下的開源授權,來解決現有工具中的缺口。

評論

  • 「TypeFox 的 Open Collaboration Tools 正在引起關注,特別是在 openvscode-server 和 Eclipse Theia 的使用者之中,因為它在遠端協作方面具有提升潛力。」
  • 「TypeFox 的工具,包括 Sprotty、Langium 和 Theia,正在受到關注,有人猜測如果 Theia 能夠實現其承諾,可能會取代 openvscode-server。」
  • “討論包括對於 YJS 提供者在協作編輯方面的可擴展性和準備情況的興趣,並與其他協作方法如螢幕共享和 VS Live Share 進行比較。”

「吹哨者表示,OpenAI 非法禁止員工公開安全風險」

  • OpenAI 吹哨者已向美國證券交易委員會(SEC)提出投訴,指控該公司非法限制員工向監管機構警告其技術風險。
  • “該投訴聲稱,OpenAI 的僱傭協議違反了聯邦法律,要求員工放棄吹哨者補償權利,並在向當局披露信息前需獲得公司同意。”
  • “OpenAI 表示支持受保護的揭露,並已修訂其政策,而美國證券交易委員會(SEC)已確認收到投訴,但尚未證實是否進行調查。”

評論

  • “吹哨者聲稱 OpenAI 限制員工討論安全風險,這引發了對該公司使用保密協議(NDAs)的擔憂。”
  • 「批評者認為,OpenAI強調的『安全風險』可能更多是關於行銷和監管策略,而非真正的威脅,這與其他科技公司使用的策略類似。」
  • 「辯論延伸至人工智慧發展的倫理影響,包括使用有偏見的模型以及人工智慧法規的更廣泛影響。」

KUtrace:低開銷的 Linux 核心追蹤工具

  • KUtrace 是一款低負載的 Linux 核心追蹤工具,旨在透過追蹤核心與使用者之間的轉換來分析效能。
  • 它生成詳細的每個 CPU 核心時間線,可以放大到納秒級,幫助解決資料中心和即時自動駕駛中的性能問題。
  • 該工具支援 x86 和 ARM 處理器,根據各種授權條款開源,並包含 Richard L. Sites 所著的《Understanding Software Dynamics》一書中的檔案。

評論

  • KUtrace 是一個低負擔的 Linux 核心追蹤工具,旨在幫助理解性能瓶頸,特別是在多機系統中。
  • 與 eBPF 工具不同,KUtrace 需要內核補丁和 root 權限,這需要積極的維護。
  • 「這個工具因其效能而受到讚譽,並且作者 Dick Sites 推薦了《Understanding Software Dynamics》一書,以獲得更多關於系統效能的見解。」

我正在創辦一家人工智慧加教育公司

  • 「Andrej Karpathy 宣佈成立新公司 Eureka Labs,專注於將人工智慧與教育相結合。」
  • 「Eureka Labs 旨在創建一所以人工智慧為核心的學校,致力於革新學習體驗。」
  • 「這項公告是通過推文發布的,並在科技和教育界引起了極大的關注。」

評論

  • 「Andrej Karpathy 正在創辦一家人工智慧與教育相關的公司,引發了關於人工智慧在教育中角色的討論。」
  • 對於人工智慧的潛力,意見不一,有些人認為它可以協助但無法取代教師,而另一些人則相信人工智慧可以增強並個性化學習體驗。
  • 這場辯論突顯了教育科技不斷演變的現狀,強調了需要創新解決方案來提升教學與學習的品質。