סCALE מאת Spectral Compute הוא ערכת כלים לתכנות GPGPU (מחשוב כללי על יחידות עיבוד גרפיות) המאפשרת הידור מקורי של יישומי CUDA עבור מעבדי גרפיקה של AMD ללא צורך בשינוי קוד ה-CUDA המקורי או מערכת הבנייה.
סCALE פועל כתחליף ישיר למקמפלר nvcc של NVIDIA, ומאפשר אינטגרציה חלקה עם כלי בנייה וסקריפטים קיימים, ותומך בפרויקטים שונים של CUDA בקוד פתוח כמו NVIDIA Thrust ו-Blender Cycles.
נכון לעכשיו, SCALE תומך ב-GPU של AMD כגון gfx1030 (Navi 21, RDNA 2.0) ו-gfx1100 (Navi 31, RDNA 3.0), עם פיתוח מתמשך עבור ארכיטקטורות GPU נוספות.
גרסת פיירפוקס האחרונה אוספת כעת נתוני משתמש כברירת מחדל, ומציגה את מנגנון ייחוס השומר על פרטיות (PPA) למדידת פרסומות באנונימיות, מה שעורר מחלוקת.
מבקרים טוענים כי איסוף הנתונים המוגדר כברירת מחדל מערער את אמון המשתמשים ומטיל ספק בכוונתה של מוזילה להגדיל את ההכנסות, מה שמאתגר את המוניטין של פיירפוקס בתחום הפרטיות.
ה-PPA משתמש בשרת אגרגציה כדי לאנונימיזציה של נתונים, אך חששות נמשכים לגבי יציאת נתונים ממחשבי המשתמשים וגישה פוטנציאלית בעתיד על ידי מפרסמים.
Exo מאפשרת למשתמשים ליצור אשכול בינה מלאכותית בבית באמצעות מכשירים יומיומיים כמו אייפונים, אייפדים, אנדרואידים, מחשבי מק ולינוקס, ובכך מבטלת את הצורך בכרטיסי גרפיקה יקרים של NVIDIA.
מאפיינים עיקריים כוללים תמיכה רחבה במודלים (למשל, LLaMA), חלוקה דינמית של מודלים, גילוי אוטומטי של התקנים, ו-API תואם ל-ChatGPT, הכל באמצעות חיבור עמית-לעמית ללא ארכיטקטורת מאסטר-וורקר.
Exo היא תוכנה ניסיונית, ולכן משתמשים צריכים לצפות לבאגים מוקדמים ומעודדים לדווח על בעיות ולתרום לקהילה.
״אקסו מאפשרת למשתמשים להפעיל אשכולות בינה מלאכותית בבית באמצעות מכשירים יומיומיים, ומספקת חלופה למחשוב בינה מלאכותית מבוסס ענן.״
״הפרויקט תומך בחומרה מגוונת, כולל טלפונים ומחשבים ניידים ישנים, ושואף להציע פרטיות, התאמה אישית וגישה לא מקוונת למודלים של בינה מלאכותית.״
דיונים מדגישים את הפשרות בין מודלים של בינה מלאכותית מקומיים ובענן, כולל עלות, ביצועים ופרטיות, כאשר חלק מהמשתמשים מעדיפים התקנות מקומיות עבור נתונים אישיים או רגישים.
ג'יימס, מהנדס פול סטאק בן 17 מקנדה, פיתח את Horizon Pics, שירות אחסון קבצים המתמקד באבטחה, פרטיות וצרכי המשתמש, ללא פרסומות או מכירת נתונים.
לאחרונה, Horizon Pics עברה מיתוג מחדש והשיקה אפליקציית שולחן עבודה חדשה בשם Alpine, שמעלה אוטומטית צילומי מסך ותוכן מהלוח, ומציעה תכונות כמו מחיקה אוטומטית והצפנה מקצה לקצה.
האפליקציה בנויה בטכנולוגיות מודרניות כגון Tauri, TypeScript, SvelteKit, Sass, ו-Rust, ו-Horizon Pics מציעה תוכניות חינמיות ובתשלום עם מגבלות אחסון משתנות.
פיקס הורייזון, שפותח על ידי מהנדס פול סטאק בן 17 מקנדה, הוא חלופה פרטית לאימגור, המציעה אירוח קבצים מאובטח וללא פרסומות.
לאחרונה השירות השיק מיתוג מחדש, כולל אפליקציית שולחן עבודה חדשה בשם Alpine, שמעלה אוטומטית צילומי מסך ולוחות גזירה עם אפשרויות פרטיות.
״Horizon Pics מציעה גם תוכנית חינמית עם אחסון מוגבל וגם תוכנית בתשלום עם מגבלות גבוהות יותר, במטרה למשוך משתמשים המחפשים פתרונות אחסון קבצים ממוקדי פרטיות.״
״הפוסט דן במגוון משאבים להבנת מודל ה-Transformer בלמידה עמוקה, ומדגיש אפשרויות חינמיות ובתשלום.״
ההמלצות כוללות את "The Annotated Transformer," "Transformers from Scratch," הסדרה של אנדריי קרפתי, וההקדמות הוויזואליות של 3Blue1Brown.
״יש ויכוח על הרלוונטיות של Keras, כאשר חלק מהמשתמשים מציינים את הירידה בשימוש בו באקדמיה ובתעשייה המעדיפים את JAX, בעוד אחרים מזכירים את התמיכה של Keras 3 במספר מערכות אחוריות.״
ביולי 16, 2024, מיסטרל AI הציגה את Codestral Mamba, ארכיטקטורה חדשה שפותחה עם אלברט גו וטרי דאו, המציעה הסקת זמן ליניארית ויכולת לדגם רצפים באורך אינסופי.
״קודסטרל ממבה יעיל לפרודוקטיביות קוד, מבצע באופן דומה למודלים טרנספורמרים מהשורה הראשונה (SOTA), ותומך בשליפה בהקשר עד 256k טוקנים.״
ניתן לפרוס את המודל באמצעות SDKs שונים, עם משקלים גולמיים זמינים ב-HuggingFace, והוא חופשי תחת רישיון Apache 2.0, בעוד של-Codestral 22B יש רישיונות מסחריים וקהילתיים.