メインコンテンツまでスキップ

18

2023 年 4 月 18 日

ミニ GPT-4

ニュース

MiniGPT-4 は、凍結した視覚エンコーダーと凍結した大型言語モデル Vicuna を、たった 1 つの投影層で位置合わせする言語モデルで、詳細な画像説明を生成したり、与えられた画像からインスピレーションを受けて物語や詩を書くなど、GPT-4 の示す同様の機能を有している。このモデルは、約 500 万組の画像とテキストを並べただけの計算効率が高く、視覚的特徴と Vicuna 大規模言語モデルを並べるための線形層のトレーニングだけで済みます。将来的には、3090GPU で実行可能な軽量モデルも準備中です。

業界の反応

研究者は、BLIP2 の ViT-L+Q-former と Vicuna-13B を線形層で結びつけ、いくつかの画像-テキストデータセットで小さな層だけを訓練することにより、他を凌駕する MiniGPT-4 モデルを作成しました。その他、機械学習モデル、CPU 上での LLM の実行、より小さなモデルに基づく製品の販売などのコメントがあります。キング・アブドラ大学の研究者が、自然言語からコンピュータプログラムやウェブサイトを生成する GPT 変換アーキテクチャ「Vicuna」を開発し、学習効率を向上させた。GPTQ 4bit の高速かつ効率的な性能は、動画の要約など、ソフトウェアや技術への応用にエキサイティングな可能性を提示します。

レッドパジャマ LLaMA を友好的なライセンスで複製したもの

ニュース

RedPajama は、先進的なオープンソースモデルを作成するプロジェクトで、1 兆 2000 億トークンを超える LLaMA トレーニングデータセットの再現から始まります。RedPajama は、事前トレーニングデータ、ベースモデル、命令チューニングデータとモデルの 3 つの主要コンポーネントからなります。RedPajama は、RedPajama 1.2 trillion token dataset を完全に公開し、より小さく消耗品のランダムサンプルは Hugging Face を通してダウンロードすることができます。

業界の反応

Together XYZ は、OpenAI の GPT-3 を搭載した GPT-3 よりも 4 倍大きいオープンソースの言語モデルデータセット RedPajama をリリースし、言語モデルの開発・展開の閉鎖性についての AI 研究者からの批判に対応しています。Hacker News に寄せられたコメントでは、Pythia、OpenAssistant、StableDiffusion、Midjourney といった様々な派生製品に言及し、画質や制御を中心にその長所と短所が強調されています。AI ウェイトの著作権性について議論が続いており、RedPajama は、ビッグテックに対抗できる持続可能なオープンソース AI イニシアチブを作るという課題に直面しています。

サムスン、デフォルトの検索エンジンに Bing への移行を検討

ニュース

サムスンは、Android ベースのスマートフォンやタブレットなどの Galaxy 端末で Bing をデフォルトの検索エンジンにするためにマイクロソフトと交渉していると報じられており、グーグルは "パニックモード "に陥っているようです。これは、ウェブ検索に最高の AI 能力をもたらすための競争が過熱する中で、グーグルが対抗策であるプロジェクト「Magi」に取り組んでおり、現在のサービスに対してはるかにパーソナライズされた体験を提供すると伝えられています。Google は最近、検索エンジンの AI をテストする社員を募集しており、2023 年 5 月にローンチする可能性があるという。

業界の反応

Samsung はデフォルトの検索エンジンを Bing に切り替えることを検討しており、これは Google が Google Cloud Platform(GCP)に対する広告圧力を強め、Samsung と Apple からより多くの支払いを搾取するためであると考えられる。Bing は検索エンジンの取引の可能性で Google を出し抜く可能性があり、Microsoft は Samsung に新しいデバイスを作るよう働きかけています。Google の品質と SEO 戦術の低下に関する議論があり、ChatGPT、DDG、Brave Search、Bing などの代替検索エンジンにユーザーを押しやっています。さらに、Linux のデスクトップ体験が改善され、多くのユーザーが仕事で Linux を選択し、教育分野では Chromebook が好まれています。

この簡単な微積分の練習が気に入りました

ニュース.

著者は、一般的な関数を積分するための決まったルールに頼るのではなく、積分が何を計算しているのかを理解する必要がある微積分の練習問題を紹介しています。この問題を解くために,生徒はグラフを描くこと,複雑な関数をより単純な部分に分割すること,区分的に連続な関数を扱うこと,そして対称性を利用することなどが考えられます.この演習は、生徒が貴重なテクニックを学び、すべての問題が記号を押しまくるだけで解決できるわけではないことを観察するのに役立つかもしれません。

業界の反応

Hacker News のユーザーは、微積分を教えることについて議論し、理解を試すための演習を増やすことを提案しています。また、最新のソフトウェアを使用し、コース全体を通して基本的な概念を強化することも提案されています。さらに、数学的モデルや練習問題を検証するためのリソースも共有されています。

最新の Intel CPU を起動する

ニュース

  • 最近のインテル CPU のブートには、攻撃やマルウェアを検出するためのシグネチャの検証や認証コードモジュール(ACM)の実行が含まれます。
  • インテルのブート用セキュリティソリューションである BootGuard は、マイクロコードの更新を検証し、システムフラッシュ内のヘッダーをチェックし、ACM を読み取り、その署名を検証し、32 ビットモードで IBB を実行します。
  • この投稿は、OS の代わりにファームウェアに重箱の隅をつつくように頼ることを論じており、政治的/宗教的な偏りや文章の外部化もなく、新しい技術業界の読者向けによく書かれているが、刺激的で新しい側面はない。

業界の反応

Intel CPU と、複数のシステムで補助プロセッサを起動することの難しさについて、メモリやスタックを使用せずに関数コールやアセンブリコードでこれらの問題を解決する方法と一緒に議論しています。開発者の中には、バグだらけのファームウェアや製品の信頼性の低さに不満を示す人もいれば、ニーズに合った安価な代替品で満足する人もいます。また、レガシーブートサポートがファームウェアのアップデートによって放棄され、リアルモードが最新のオペレーティングシステムのブートにおいて役割を果たさなくなったことも話題になっています。

iOS 17 は、iPhone でアプリをサイドロードするための舞台となることが報じられています。

ニュース

Bloomberg の報道によると、Apple は iOS 17 のリリースに伴い、iPhone でアプリをサイドロードする機能を追加する可能性があるという。同社はこのような機能のための土台作りを進めているとされ、6 月に開催予定の Worldwide Developer Conference(WWDC)で関連する発表を行う可能性があるという。Apple が iOS 17 でサイドローディングを可能にするのか、それともこの先後の時点で可能にするために OS レベルで何らかの変更を加えているだけなのかは不明です。

業界の反応

Apple の iOS 17 では、iPhone でアプリのサイドロードが可能になったと報じられています。この動きを称賛する声もあれば、セキュリティ対策の低下を懸念する声もあります。議論の中心は、プライバシーやセキュリティの保護とアプリのサイドロード機能のバランスを取ることです。Apple は独占的な存在であり、ユーザーにより多くの選択肢を提供する必要があるとする批判的な意見と、ライバルである Android と比較して Apple のプライバシーとセキュリティ保護が優れていることを指摘する擁護派の意見があります。

OpenAI の CEO、巨大 AI モデルの時代はすでに終わったと語る

ニュース

OpenAI の CEO である Sam Altman は、GPT のような大規模な言語モデルを作る時代は終わりつつあると述べています。OpenAI は AI の進歩を続けていますが、今後の飛躍には新しいアイデアが必要で、Altman によれば、ただモデルを大きくすればいいというものではありません。資金力のある多くの新興企業が OpenAI の技術に追いつこうとしているが、GPT-4 は、新しい AI アルゴリズムの開発・導入競争における予想外の展開を示唆している。

業界の反応

OpenAI の CEO は、大規模な AI モデルはもはや経済的に実現不可能であり、今後の AI の進歩は他の方法でモデルを改善することから生まれると主張している。マルチモーダルモデルは、AI の研究の新しいフロンティアです。GPT-4 のサイズと能力に関する OpenAI の主張に懐疑的な専門家もいれば、指数関数的な成長の可能性を指摘する専門家もいる。OpenAI は、より優れた AI モデルのために、新たなトレーニングデータのソースを見つけ、アルゴリズムとデータの質を改善する必要があるかもしれません。GPT-4 の言語能力と限界に関する議論は、マルチモーダル機能による言語モデルの改善、より効率的なトレーニング目標とオプティマイザー、データ増強の進歩についての議論につながった。

マイクロソフトは SwiftKey のパブリックサポートフォーラムを削除しました。

News.

このテキストは、タイトル「Microsoft deleted the public supportums for SwiftKey」とは関係ないため、適宜要約することができません。要約するための正しいテキストを提供してください。

業界の反応

マイクロソフトは、ユーザーが自分のタイピングスタイルを学習し、体の延長となることで愛着を感じている SwiftKey の公開サポートフォーラムを削除し、SwiftKey のカスタマーサポートチームにのみ問題をメールで伝えることができるようになりました。コメントには、オンライン本人確認やオンラインに長時間いることの影響など様々なトピックがあり、その他、能力主義やソーシャルメディア中毒の問題なども含まれています。しかし、コメントには、混合言語モデル学習や人間工学に基づいたデザインなど、SwiftKey の長所も述べられており、Android や iOS デバイスの純正キーボードオプションに代わる定番の選択肢となっています。

ソースコードなし == 特許なし

ニュース

  • ソフトウェア特許におけるソースコードの開示は、発明者が発明を実施できることを証明し、特に侵害訴訟において特許に信頼性を与えるため重要である。
  • ソースコードを含めることで、記述要件と実施可能要件を完全に満たし、ソフトウェア特許の出願件数を減らし、設計仕様の曖昧さを避けることができる。
  • 本稿では、コンピュータ技術やデジタル通信における特許の法的事例や現状を考察し、合理的な実験の問題を解決するためにソフトウェア特許におけるソースコードの必要性を強調する。

業界の反応

ソフトウェア特許を廃止すべきか維持すべきかという議論が Hacker News で巻き起こり、独自に創造されたアイデアの盗用を防ぐための特許の必要性について賛否両論が交わされています。ソフトウェア特許はイノベーションを阻害するものであり、物理的な物体や作業コピーなど、単なるアイデアや概念以上のものを必要とするという意見もあれば、ソースコードやアルゴリズムと特許権との関連性を論じる意見もあります。

ブログを太陽光発電にしたら、エスカレートした

ニュース

ブロガーがブログとコンピュータデスクを動かすために、合計定格 740 ワットのソーラーパネルを使い、大型の中古鉛蓄電池、Victron ソーラーチャージャー、インバータ、Filax 2 スイッチで 12 ボルトシステムを駆動し、データの収集には Python、InfluxDB、Grafana を使ってデータの収集と表示を行っています。安全性とコスト削減のため、特大のバッテリー配線と 24V または 48V システムの使用を推奨し、その安全性のために密閉型鉛蓄電池を使用しています。動的負荷アルゴリズムによりバッテリーの深放電を防ぎ、ダークテイストの背景で電力を節約することができます。

業界の反応

Hacker News のスレッドでは、太陽光発電プロジェクトに鉛蓄電池、LiFePo4、固体電池などの異なる種類の電池を使用することの長所と短所が議論され、電池の種類を決定する前に特定のニーズと目標を考慮すべきことが提案されています。LiFePO4(リチウム鉄リン酸塩)電池を使用した鉛蓄電池の容量テストとプラグイン交換について、専門家が見解を述べています。LiFePO4 電池は軽量で充電速度が速いかもしれませんが、生涯トータルコストは鉛蓄電池に匹敵します。その他、USB-C 電源の使用、電力の位相分割、24V または DC コンポーネントの使用など、太陽光発電システム構築のヒントとなるコメントや、風車や屋根材としてのパネルなどの代替ソリューションの提案もあります。

(ブックライブ)は月額制ではなくて、購入する物語を売る:子供への読書指導はいかにして間違った方向に進んだか?

ニュース

American Public Media の調査報道プロジェクト「Sold a Story」は、学校の読書プログラムにおける現在の指導法を論破しています。この指導法は、もともとマリー・クレイが提唱した、子供が読書を学ぶ方法に関する長い間証明されていない考えに基づいています。しかし、これらの論破された手法を用いた製品が全国の学校に販売され、ハイネマンは数百万ドルを稼ぎ、親や教育者、法律家はシステムの変更を求めています。記事には、影響力のある教育者や政治家へのインタビュー、研究分析、教育者や地域住民がテーマについて議論するための指導資料が含まれています。

業界の反応.

フォニックスや親の関与など、子供の読書に対する様々な指導法が、個別指導と評価に重点を置いて論じられている。教育者や学者がフォニックスベースの指導とホールワード指導の有効性について議論しており、記事では教師の意見を盲信しないように警告しています。また、読解力向上のためのフォニックス指導の重要性を強調し、現在小学校の教育の質が議論されていることを踏まえ、保護者に役立つリソースの推奨も行っている。

Windows 11 のゴミ箱パーティー

ニュース

記事の著者は、Windows 11 のスタートメニューに表示されるデフォルトのコンテンツとして、子供には不適切かもしれない銃乱射事件のニュースや、天気情報のアラートに MSN ホームページのゴミが表示されることに不満を述べています。このコンテンツはオフにすることができますが、記事では、Windows の体験は全体的に残念なものであると指摘しています。

業界の反応.

ユーザーからは、マイクロソフトのアイデンティティクライシスに対する懸念が表明され、エンタープライズ企業向け OS としてのビジョンとフォーカスを明確にする必要性が示唆されています。Windows 11 への不満が表明され、代替案として Linux の利用を提案する声もある。Windows の押し付けがましい広告、プライバシーへの懸念、パフォーマンスなどが批判されている。この投稿は、Windows 11 の批判に興味を持つ技術に詳しい読者には無関係なものです。

Fediverse の月間投稿数が初めて 10 億件を突破しました。

News.

最近のデータ分析によると、Fediverse の月間投稿数が初めて 10 億件を突破しました。Masto.ai が提供する分散型ソーシャルネットワーク Mastodon は、8.9K のアクティブユーザーを誇り、ハッシュタグやプロフィールのフォロー、お気に入り、共有、投稿への返信などの機能を提供しています。

業界の反応

分散型ソーシャルネットワーク Fediverse は、様々なプラットフォームで月間投稿数が 10 億件を超えるというマイルストーンに到達し、Mastodon は Twitter に代わるものとして注目されています。マストドンはユーザー数が少なく、拡張性に欠けるとの批判もあるが、質の高い交流やコミュニティ主導の感覚を評価する声もある。マストドンは、中央集権的であるため、Twitter に対抗するにはまだ苦労しており、正確な DAU(Daily Active Users)数は不明である。さらに、Fediverse は、検索機能、UX デザイン、検閲の問題について懸念を示しています。

AWS のスタッフは「顧客のクラウドを最適化する」ことに多くの時間を費やしている。

ニュース

Amazon.com の CEO である Andy Jassy の株主宛年次書簡によると、AWS のスタッフは、顧客が不確実な経済を乗り切るために AWS の支出を最適化することを支援しています。顧客が支出を最適化した結果、AWS の成長率は鈍化しているが、AWS は依然として新規顧客や活発な移行を行うための強固なパイプラインを有しているという。Jassy はまた、AWS がカスタムシリコンをさらに開発する意向であることや、Kuiper 衛星ブロードバンドサービスの可能性についても言及しています。

業界の反応

AWS のスタッフは顧客のクラウドの最適化に多くの時間を費やしており、サポートサービスについては、基本的なサポートが充実しているものから、顧客によってサポートレベルが異なるという問題があるものまで、さまざまな評価があります。企業は、必要な知識を持つインフラエンジニアの雇用に苦労する可能性があり、クラウドへの移行は、データセンターでの作業に関する知識の喪失につながる可能性があります。オンプレミスのインフラはコストが高く、複数のデータセンターを運営するのは骨が折れる。一方、複雑なクラウドアーキテクチャは、不必要な運用負担を生む可能性がある。クラウドコンピューティングとオンプレミスコンピューティングの費用対効果については議論があり、突発的な負荷や予測不可能な負荷はクラウドコンピューティングに軍配が上がる。AWS はより小規模で安価なクラウドプロバイダーと競合しており、開発者は複雑な導入、運用サポート、コスト最適化に頭を悩ませている。クラウドコンピューティングは高価になり、企業は利用状況に応じてクラウドコンピューティングから離れるが、必要なスキルがないため、オンプレミスの設定に移行する人はほとんどいない。

スターシップの飛行試験[動画]スターシップの飛行試験

ニュース

  • SpaceX 社の最新の Starship 試作機 SN10 が高高度試験飛行と着陸に成功し、爆発せずに着陸した最初の機体となりました。
  • SN10 は 10km まで上昇し、着陸地点までベリーファーストで降下することができましたが、着陸後の火災によりロケットが損傷してしまいました。
  • スペース X 社の CEO であるイーロン・マスク氏は、スターシップと組み合わせて軌道飛行を行うスーパーヘビーブースターの開発を優先することを表明しています。

業界の反応

SpaceX は、加圧弁の問題で飛行試験を中止した Starship を 48 時間以内に再打ち上げする予定です。Hacker News では、Starship の市場や収益性についてユーザーが議論していますが、記事では、ロケットがマスクの予測通り再利用可能だと証明されれば、宇宙旅行の経済におけるパラダイムシフトの可能性を論じています。また、今回の打ち上げが米国の時間帯に与える影響という中心的なテーマについてもコメントが寄せられ、抗議者が SpaceX 社のテストを妨害する懸念もあるようです。