본문으로 건너뛰기

2024-07-16

수정되지 않은 CUDA를 AMD GPU에서 실행

  • Spectral Compute의 SCALE은(는) 원래의 CUDA 코드나 빌드 시스템을 수정하지 않고도 AMD GPU용 CUDA 애플리케이션의 네이티브 컴파일을 가능하게 하는 GPGPU(그래픽 처리 장치의 범용 컴퓨팅) 프로그래밍 툴킷입니다.
  • SCALE은 NVIDIA의 nvcc 컴파일러를 대체하는 드롭인 대체품으로 작동하여 기존 빌드 도구 및 스크립트와 원활하게 통합되며, NVIDIA Thrust 및 Blender Cycles와 같은 다양한 오픈 소스 CUDA 프로젝트를 지원합니다.
  • 현재 SCALE은 gfx1030 (Navi 21, RDNA 2.0) 및 gfx1100 (Navi 31, RDNA 3.0)와 같은 AMD GPU를 지원하며, 추가적인 GPU 아키텍처에 대한 개발이 진행 중입니다.

반응

  • 논의는 AMD GPU에서 CUDA(Compute Unified Device Architecture)를 실행하는 것의 실현 가능성과 그에 따른 영향을 중심으로 진행되며, 기술적 및 법적 문제를 강조합니다.
  • 일부는 AMD GPU에서 CUDA를 지원하는 번역 레이어를 지원하는 것이 비현실적이라고 주장하며, 대신 PyTorch와 같은 오픈 소스 프로젝트에 집중할 것을 제안합니다.
  • HIP(이기종 컴퓨팅 인터페이스)는 CUDA 코드를 AMD GPU로 포팅하는 데 잠재적인 저비용 솔루션으로 언급되지만, 완전히 무노력은 아닙니다.

광고를 위해 Firefox는 이제 기본적으로 사용자 데이터를 수집합니다

  • Firefox의 최신 버전은 이제 기본적으로 사용자 데이터를 수집하며, 익명화된 광고 측정을 위한 프라이버시 보호 속성(PPA)을 도입하여 논란을 일으켰습니다.
  • 비평가들은 이러한 기본 데이터 수집이 사용자 신뢰를 저해하고 Mozilla가 수익을 증대하려는 의도를 의심하며, Firefox의 프라이버시 명성을 위협한다고 주장합니다.
  • PPA는 데이터를 익명화하기 위해 집계 서버를 사용하지만, 사용자 컴퓨터를 떠나는 데이터와 광고주가 잠재적으로 접근할 수 있는 가능성에 대한 우려가 지속되고 있습니다.

반응

  • Firefox는 기본적으로 광고 목적으로 사용자 데이터를 수집하기 시작했으며, 이는 설정의 개인정보 보호 및 보안에서 비활성화할 수 있습니다.
  • 사용자들은 이 기능을 비활성화하는 설정이 쉽게 검색되지 않으며 기기 간에 동기화되지 않는다고 보고했습니다.
  • Mozilla의 CTO는 이 기능이 프라이버시와 광고 측정을 균형 있게 조절한다고 주장하지만, 사용자들의 회의론과 비판이 계속되고 있다.

엑소: 일상적인 기기로 집에서 AI 클러스터 운영하기

  • 엑소는 사용자가 아이폰, 아이패드, 안드로이드, 맥, 리눅스 시스템과 같은 일상적인 기기를 사용하여 집에서 AI 클러스터를 만들 수 있게 하여, 비싼 NVIDIA GPU의 필요성을 없애줍니다.
  • 주요 기능으로는 광범위한 모델 지원(예: LLaMA), 동적 모델 분할, 자동 장치 검색, 그리고 마스터-워커 아키텍처 없이 피어-투-피어 연결을 사용하는 ChatGPT 호환 API가 포함됩니다.
  • Exo는 실험적인 소프트웨어이므로 사용자들은 초기 버그를 예상해야 하며 문제를 보고하고 커뮤니티에 기여하는 것을 권장합니다.

반응

  • 엑소는 사용자가 일상적인 장치를 사용하여 집에서 자체 AI 클러스터를 실행할 수 있도록 하여 클라우드 기반 AI 컴퓨팅에 대한 대안을 제공합니다.
  • 이 프로젝트는 오래된 전화기와 노트북을 포함한 다양한 하드웨어를 지원하며, AI 모델에 대한 프라이버시, 맞춤화, 오프라인 접근을 제공하는 것을 목표로 합니다.
  • 토론에서는 비용, 성능 및 프라이버시를 포함하여 로컬 및 클라우드 AI 모델 간의 절충점을 강조하며, 일부 사용자는 개인 또는 민감한 데이터를 위해 로컬 설정을 선호합니다.

호라이즌 – Imgur의 개인 대안

  • 캐나다 출신의 17세 풀스택 엔지니어 제임스는 보안, 프라이버시, 사용자 요구에 중점을 둔 파일 호스팅 서비스인 Horizon Pics를 개발했으며, 광고나 데이터 판매 없이 운영됩니다.
  • 최근 Horizon Pics는 리브랜딩을 거쳐 Alpine이라는 새로운 데스크톱 앱을 출시했습니다. 이 앱은 화면 캡처와 클립보드 내용을 자동으로 업로드하며, 자동 삭제 및 종단 간 암호화와 같은 기능을 제공합니다.
  • 이 앱은 Tauri, TypeScript, SvelteKit, Sass, Rust와 같은 최신 기술로 구축되었으며, Horizon Pics는 다양한 저장 용량을 제공하는 무료 및 유료 플랜을 제공합니다.

반응

  • 캐나다 출신의 17세 풀스택 엔지니어가 개발한 Horizon Pics는 광고 없이 안전한 파일 호스팅을 제공하는 Imgur의 대안입니다.
  • 최근 이 서비스는 리브랜딩을 시작했으며, 프라이버시 옵션을 포함한 화면 캡처 및 클립보드를 자동 업로드하는 새로운 데스크톱 앱인 알파인을 출시했습니다.
  • 호라이즌 픽스는 제한된 저장 용량을 제공하는 무료 플랜과 더 높은 한도를 제공하는 유료 플랜을 모두 제공하여, 프라이버시 중심의 파일 호스팅 솔루션을 찾는 사용자를 유치하는 것을 목표로 하고 있습니다.

제약 가격 책정의 마피아

  • FTC의 새로운 보고서는 몇몇 의료 대기업들이 마피아에 비유되며 제약 가격을 통해 미국 전체 자금의 4%를 통제하고 있음을 폭로합니다.
  • 약국 혜택 관리자(PBM)는 가격을 통제하고 자금을 자신들에게 재분배함으로써 약가를 인상하는 주요 인물로 지목되고 있습니다.
  • FTC의 조치와 잠재적인 입법 변화는 PBM에 의한 제약 가격 독점을 해결하여 크게 부풀려진 비용을 줄이는 것을 목표로 하고 있습니다.

반응

  • 이 게시물은 제약 산업에서 특히 약국 혜택 관리자(PBM)와 제약 회사와 관련된 비윤리적 관행에 대해 논의합니다.
  • 주요 문제로는 처방 데이터의 판매, 리베이트로 기능하는 법적 '리베이트', 그리고 재정적 인센티브가 의료 진단 및 처방에 미치는 영향이 포함됩니다.
  • 이 대화는 시장 왜곡을 해결하고 환자를 비윤리적 행위와 과도한 약가로부터 보호하기 위해 투명성과 규제가 필요하다는 점을 강조합니다.

엔지니어를 위한 딥러닝 가이드: 트랜스포머 모델 이해하기

  • 문서 '엔지니어를 위한 딥러닝 가이드'는 2017년에 도입된 중요한 AI 돌파구인 트랜스포머 모델을 이해하는 데 필요한 포괄적인 지침을 제공합니다.
  • 기본적인 신경망 개념, RNN(순환 신경망), NLP(자연어 처리), 주의 메커니즘을 포함하며, 작동하는 파이썬 코드 예제와 추가 탐색을 위한 참고 자료를 제공합니다.
  • 2024년 5월 21일에 출시되었으며, 교육 및 비상업적 용도로 무료로 사용할 수 있습니다. 저자는 숙련된 소프트웨어 프로그래머이자 AI 열성자인 히로노부 스즈키입니다.

반응

  • 이 게시물은 딥러닝에서 Transformer 모델을 이해하기 위한 다양한 자료를 다루며, 무료 및 유료 옵션을 강조합니다.
  • 추천 자료로는 'The Annotated Transformer', 'Transformers from Scratch', Andrej Karpathy의 시리즈, 그리고 3Blue1Brown의 시각적 소개가 있습니다.
  • 케라스의 관련성에 대한 논쟁이 있습니다. 일부 사용자들은 학계와 산업에서 JAX를 선호하면서 케라스의 쇠퇴를 지적하는 반면, 다른 사용자들은 여러 백엔드를 지원하는 케라스 3를 언급합니다.

코데스트랄 맘바

  • 2024년 7월 16일, Mistral AI는 Albert Gu와 Tri Dao와 함께 개발한 새로운 아키텍처인 Codestral Mamba를 소개했습니다. 이 아키텍처는 선형 시간 추론과 무한 길이 시퀀스를 모델링할 수 있는 능력을 제공합니다.
  • Codestral Mamba는 코드 생산성에 효율적이며, 최신 트랜스포머 모델과 비교할 만한 성능을 발휘하고, 최대 256k 토큰까지 맥락 내 검색을 지원합니다.
  • 이 모델은 다양한 SDK를 통해 배포할 수 있으며, HuggingFace에서 원시 가중치를 사용할 수 있고, Apache 2.0 라이선스 하에 무료로 제공됩니다. 한편, Codestral 22B는 상업 및 커뮤니티 라이선스를 가지고 있습니다.

반응

  • 미스트랄.ai의 새로운 모델인 코드스트랄 맘바가 출시되었으며, 독특한 아키텍처와 기능으로 인해 관심을 끌고 있습니다.
  • 이 모델은 256k 컨텍스트 토큰을 지원하며 선형 추론 시간을 제공하여 트랜스포머 기반 모델들과 경쟁력을 갖추고 있습니다.
  • Codestral Mamba를 VS Code 및 IntelliJ와 같은 개발 환경에 통합하는 것에 대한 논의가 진행 중이지만, 현재 지원은 제한적입니다.

피터 벅스턴, 터스키기 매독 연구를 폭로한 내부 고발자, 사망

  • 비윤리적인 터스키기 매독 연구를 폭로한 내부고발자 피터 벅스턴이 86세의 나이로 별세했습니다.
  • 벅스턴의 폭로는 1972년에 연구의 종료, 의회 청문회, 그리고 피해자들을 위한 1천만 달러의 합의로 이어졌다.
  • 그가 그 연구를 나치의 의학 실험에 비유한 것은 새로운 정부 연구 규정을 촉발시켰으며, 이는 의학 연구의 윤리적 기준에 대한 그의 중요한 영향을 강조한다.

반응

  • 비윤리적인 터스키기 매독 연구를 폭로한 내부고발자 피터 벅스턴이 별세했습니다.
  • Buxtun의 우려는 매독에 걸린 아프리카계 미국인 남성들에게 치료를 제공하지 않은 연구에 대한 것이었으나, 6년 동안 무시되다가 주목을 받기 시작했다.
  • 터스키기 연구는 아프리카계 미국인 커뮤니티에서 백신 주저 현상에 기여하고 의학 연구에서의 체계적인 인종차별을 부각시키는 등 지속적인 영향을 미쳤습니다.

거짓말 탐지기의 망상

  • 저스틴 세인트 저메인은 세관 및 국경 보호국에 취업 신청을 하면서 겪은 거짓말 탐지기 테스트 경험을 통해 기억, 회고록, 신화 사이의 흐릿한 경계를 탐구합니다.
  • 그는 종종 거짓말 탐지기로 여겨지는 폴리그래프가 실제로는 진실을 탐지하는 것이 아니라 창조한다고 주장하며, 이를 회고록 작성과 유사하다고 비유한다.
  • 제르맹은 거짓말 탐지기의 논란이 많은 역사, 자백을 강요하는 데 사용되는 것, 국가 권력을 주장하는 상징적 역할을 논의하며, 그 결함과 단순하고 감지 가능한 진실에 대한 미국의 집착을 강조한다.

반응

  • 저자는 직장에서의 도난 혐의로 인해 19세에 거짓말 탐지기 검사를 받았던 일을 회상하며, 자신이 무죄였음을 밝힌다.
  • 거짓말 탐지기는 거짓말을 정확하게 탐지하기보다는 자백을 강요하는 데 사용된다는 비판을 받으며, 이는 종종 스트레스와 신뢰할 수 없는 결과를 초래합니다.
  • 정확성에 대한 의문에도 불구하고, 폴리그래프는 여전히 직업 심사와 범죄 수사에서 위협 도구로 사용되고 있다.

서피스 프로 4에서의 리눅스 리뷰

  • 저자는 2016년에 구입한 서피스 프로 4에 리눅스를 설치하여 인터넷 브라우징, 미디어 소비, 스케치와 같은 다양한 사용 사례에 대한 실행 가능성을 탐구하기 위해 실험을 진행했습니다.
  • Linux 설치는 EndeavourOS와 Fedora Workstation 40을 사용하여 간단하게 진행되었지만, 태블릿 기능에서는 문제가 발생했습니다. 예를 들어, 유령 터치, 불량한 손바닥 인식, 그리고 절전 모드 동안의 심각한 배터리 소모 등의 문제가 있었습니다.
  • 이러한 문제들로 인해 저자는 Windows 10으로 되돌아갔으며, 이는 자신의 필요에 더 적합하다고 판단했기 때문입니다. 그러나 내년에 Windows 10의 지원이 종료된 후에는 Linux를 다시 고려할 수도 있습니다.

반응

  • Surface Pro 4에서 리눅스를 실행한 리뷰가 큰 논의를 불러일으켰으며, 다양한 하드웨어에서 리눅스를 사용하는 사용자 경험을 강조하고 있습니다.
  • 많은 사용자가 Dell XPS 및 ThinkPad와 같은 다른 장치에서의 Linux 사용 경험을 비교하며, 절전 모드, 전원 관리 및 하드웨어 통합과 같은 문제를 지적합니다.
  • 이 대화는 MacBook의 macOS와 유사하게 Linux에서 하드웨어-소프트웨어 통합을 원활하게 이루는 데 있어 장치 드라이버 개발의 복잡성으로 인한 어려움을 강조합니다.

보석상들은 어떻게 마지막 금가루까지 포착할까요? (2017)

  • 마스터멜트의 게리 윌리엄스는 귀금속을 회수하기 위해 상업 폐기물 소각을 관리하며, 보석상들은 작업장에서 나오는 모든 금가루 입자를 수집하여 처리합니다.
  • 이 과정은 금과 백금과 같은 금속을 회수하기 위해 재료를 2,000도까지 가열하는 것을 포함하며, 고급 기술과 기술이 더 많은 폐기물을 포착하는 데 도움을 줍니다.
  • 보석상과 정제업자 간의 신뢰는 매우 중요하며, 업계는 귀금속 회수율을 극대화하기 위해 지속적으로 방법을 개선하고 있습니다.

반응

  • 보석상들은 창문 업그레이드, 현장 세탁, 바닥 철거 등을 포함하여 모든 금가루 입자를 포착하기 위해 세심한 방법을 사용합니다.
  • 이러한 관행은 맨해튼 프로젝트의 바닥과 장비에서 은을 회수하려는 역사적 노력과 유사합니다.
  • 시드니와 뉴욕 같은 도시의 보석상들은 작업장 바닥과 인도에서 금을 회수하여, 업계의 자원 활용 능력과 최소한의 재료 손실을 강조합니다.

오픈 협업 도구

  • 오픈 협업 도구는 통합 개발 환경(IDE) 콘텐츠의 실시간 공유를 통해 원격 팀워크를 향상시키기 위한 오픈 소스 프로젝트입니다.
  • 주요 기능으로는 VS Code와 Eclipse Theia를 위한 확장, 인증 및 협업을 위한 서버 애플리케이션, 그리고 종단 간 암호화가 포함된 개방형 프로토콜이 있습니다.
  • 이 프로젝트는 벤더 종속이 없고, 절대적인 확장성, 유연한 배포 옵션, MIT 라이선스 하의 오픈 소스 라이선싱을 제공함으로써 기존 도구의 격차를 해결합니다.

반응

  • TypeFox의 Open Collaboration Tools는 특히 openvscode-server와 Eclipse Theia 사용자들 사이에서 주목받고 있으며, 이는 원격 협업의 향상 가능성 때문입니다.
  • TypeFox의 도구들, Sprotty, Langium, 그리고 Theia가 주목받고 있으며, Theia가 약속을 이행한다면 openvscode-server를 대체할 수 있을 것이라는 추측이 있습니다.
  • 논의에는 협업 편집을 위한 YJS 제공자의 확장 가능성과 준비 상태에 대한 관심, 그리고 화면 공유 및 VS Live Share와 같은 다른 협업 방법과의 비교가 포함됩니다.

오픈AI, 직원들이 안전 위험을 제기하는 것을 불법적으로 막았다, 내부고발자들 주장

  • OpenAI 내부고발자들이 SEC에 고발장을 제출하여 회사가 직원들이 자사의 기술 위험에 대해 규제 당국에 경고하는 것을 불법적으로 제한했다고 주장했습니다.
  • 그 고소장은 OpenAI의 고용 계약이 직원들이 내부 고발자 보상 권리를 포기하고 당국에 정보를 공개하기 전에 회사의 동의를 구하도록 요구함으로써 연방법을 위반했다고 주장합니다.
  • OpenAI는 보호된 공개를 지지하며 정책을 수정했다고 밝혔고, SEC는 해당 불만을 인정했지만 조사를 확인하지는 않았습니다.

반응

  • 내부고발자들은 OpenAI가 직원들이 안전 위험에 대해 논의하는 것을 제한했다고 주장하며, 회사의 비밀 유지 계약서(NDA) 사용에 대한 우려를 제기하고 있다.
  • 비평가들은 OpenAI가 '안전 위험'을 강조하는 것이 진정한 위협보다는 마케팅 및 규제 전략과 더 관련이 있을 수 있다고 주장하며, 이는 다른 기술 회사들이 사용하는 전술과 유사하다고 지적합니다.
  • 논쟁은 편향된 모델의 사용과 AI 규제의 광범위한 영향 등을 포함한 AI 개발의 윤리적 함의로 확장됩니다.

KUtrace: 저비용 Linux 커널 추적 기능

  • KUtrace는 커널-사용자 전환을 추적하여 성능을 분석하기 위해 설계된 저비용 Linux 커널 추적 도구입니다.
  • 이는 데이터 센터와 실시간 자율 주행에서 성능 문제를 해결하는 데 도움이 되는 나노초 단위로 확대할 수 있는 세부적인 CPU 코어별 타임라인을 생성합니다.
  • 이 도구는 x86 및 ARM 프로세서를 지원하며, 다양한 라이선스 하에 오픈 소스화되어 있고, Richard L. Sites의 저서 'Understanding Software Dynamics'에서 가져온 파일을 포함하고 있습니다.

반응

  • KUtrace는 특히 다중 기계 시스템에서 성능 병목 현상을 이해하는 데 도움을 주기 위해 설계된 저비용 Linux 커널 추적 기능입니다.
  • eBPF 도구와 달리 KUtrace는 커널 패치와 루트 접근 권한이 필요하여 적극적인 유지 관리가 필요합니다.
  • 이 도구는 그 효과성으로 칭찬받고 있으며, 시스템 성능에 대한 추가 통찰을 위해 저자 딕 사이트의 책 '소프트웨어 다이내믹스 이해하기'를 추천합니다.

저는 AI+교육 회사를 시작하고 있습니다

  • 안드레이 카르파티가 AI와 교육을 통합하는 데 중점을 둔 새로운 회사인 유레카 랩스의 출범을 발표했습니다.
  • 유레카 랩스는 학습 경험을 혁신하기 위해 AI 기반 학교를 설립하는 것을 목표로 하고 있습니다.
  • 그 발표는 트윗을 통해 이루어졌으며, 기술 및 교육 커뮤니티에서 큰 관심을 불러일으켰습니다.

반응

  • 안드레이 카르파티가 AI+교육 회사를 시작하여 교육에서 AI의 역할에 대한 논의를 촉발하고 있다.
  • AI의 잠재력에 대한 의견은 다양합니다. 일부는 AI가 교사를 돕지만 대체할 수는 없다고 주장하는 반면, 다른 사람들은 AI가 학습 경험을 향상시키고 개인화할 수 있다고 믿습니다.
  • 그 논쟁은 교육 기술의 진화하는 환경을 강조하며, 교수와 학습을 개선하기 위한 혁신적인 해결책의 필요성을 강조합니다.