Aller au contenu principal

2023-04-18

MiniGPT-4

Nouvelles.

MiniGPT-4, un modèle de langage qui aligne un codeur visuel gelé avec un grand modèle de langage gelé, Vicuna, en utilisant seulement une couche de projection, possède des capacités similaires à celles de GPT-4, telles que la génération de descriptions d'images détaillées et l'écriture d'histoires et de poèmes inspirés par des images données. Le modèle est très efficace sur le plan informatique, puisqu'il n'utilise qu'environ 5 millions de paires image-texte alignées et ne nécessite que l'entraînement de la couche linéaire pour aligner les caractéristiques visuelles sur le grand modèle de langage de Vicuna. Les créateurs préparent un modèle plus léger pouvant être exécuté sur un seul GPU 3090 pour une utilisation future.

Réactions de l'industrie.

Les chercheurs créent le modèle MiniGPT-4 qui surpasse les autres en reliant le formateur ViT-L+Q de BLIP2 à Vicuna-13B avec une couche linéaire et en n'entraînant que la couche minuscule sur certains ensembles de données image-texte. D'autres commentaires portent sur les modèles d'apprentissage automatique, l'exécution des LLM sur les CPU et la commercialisation de produits basés sur des modèles plus petits. Les chercheurs de l'université King Abdullah développent Vicuna, une architecture de transformateur GPT qui génère des programmes informatiques et des sites web à partir du langage naturel avec une efficacité d'apprentissage améliorée. Les performances plus rapides et plus efficaces de GPTQ 4bit offrent des possibilités intéressantes pour le résumé vidéo et d'autres applications pour les logiciels et la technologie.

RedPajama : Reproduction de LLaMA sous licence amicale

Nouvelles.

RedPajama, un projet visant à créer des modèles open-source de premier plan, commence par reproduire l'ensemble de données d'entraînement LLaMA de plus de 1,2 trillion de jetons ; RedPajama a trois composants clés : les données de pré-entraînement, les modèles de base et les données et modèles de réglage des instructions ; RedPajama a publié l'ensemble complet de données RedPajama de 1,2 trillion de jetons et un échantillon aléatoire plus petit et plus consommable peut être téléchargé par l'intermédiaire de Hugging Face.

Réactions de l'industrie.

Together XYZ a publié RedPajama, un ensemble de données de modèles de langage open-source qui est quatre fois plus important que le GPT-3 d'OpenAI et qui répond aux critiques des chercheurs en intelligence artificielle concernant la nature fermée du développement et du déploiement des modèles de langage. Les commentaires sur Hacker News font référence à divers dérivés tels que Pythia, OpenAssistant, StableDiffusion et Midjourney, soulignant leurs forces et leurs faiblesses, en mettant l'accent sur la qualité et le contrôle de l'image. Le débat sur le droit d'auteur des poids de l'IA se poursuit, et RedPajama doit relever le défi de créer une initiative d'IA open-source durable, capable de concurrencer les grandes entreprises technologiques.

Samsung envisage d'adopter Bing comme moteur de recherche par défaut

Actualités.

Samsung serait en pourparlers avec Microsoft pour faire de Bing le moteur de recherche par défaut sur ses appareils Galaxy, y compris les smartphones et les tablettes sous Android, Google semblant être en "mode panique". Google travaille sur son contre-pitch, le projet "Magi", qui offrirait une expérience beaucoup plus personnalisée que son service actuel. Google a récemment invité ses employés à tester l'IA sur son moteur de recherche, avec un lancement possible en mai 2023.

Réactions de l'industrie.

Samsung envisage de passer à Bing comme moteur de recherche par défaut, potentiellement en raison de la pression publicitaire accrue de Google sur Google Cloud Platform (GCP) et pour obtenir davantage de paiements de la part de Samsung et d'Apple. Bing pourrait surenchérir sur Google dans le cadre d'un accord potentiel sur les moteurs de recherche, et Microsoft pousse Samsung à créer un nouvel appareil. Le déclin de la qualité et des tactiques de référencement de Google fait l'objet d'un débat, poussant les utilisateurs à se tourner vers des moteurs de recherche alternatifs tels que ChatGPT, DDG, Brave Search et Bing. En outre, l'expérience du bureau Linux s'est améliorée, de nombreux utilisateurs optant pour Linux au travail, tandis que les Chromebooks sont préférés dans le secteur de l'éducation.

J'ai aimé cet exercice de calcul simple

Actualités.

L'auteur partage un exercice de calcul qui demande aux étudiants de comprendre ce que l'intégrale calcule, plutôt que de s'appuyer sur les règles d'intégration des fonctions courantes. Pour résoudre le problème, les étudiants peuvent utiliser des graphiques, décomposer des fonctions compliquées en parties plus simples, traiter des fonctions continues par morceaux et utiliser la symétrie. L'exercice peut aider les élèves à apprendre des techniques utiles et à constater que tous les problèmes ne peuvent pas être résolus en se contentant de manipuler des symboles.

Industry Reactions.

Les utilisateurs de Hacker News discutent de l'enseignement du calcul et suggèrent davantage d'exercices pour tester la compréhension. Ils suggèrent également d'utiliser des logiciels modernes et de renforcer les concepts de base tout au long du cours. En outre, ils partagent des ressources pour vérifier les modèles mathématiques ou les exercices.

Démarrage des processeurs Intel modernes

Nouvelles.

  • Le démarrage des processeurs Intel modernes implique la vérification des signatures et l'exécution de modules de code authentifiés (ACM) pour détecter les attaques ou les logiciels malveillants.
  • BootGuard, la solution de sécurité d'Intel pour le démarrage, vérifie les mises à jour du microcode, contrôle les en-têtes dans la mémoire flash du système, lit un ACM, vérifie sa signature et exécute l'IBB en mode 32 bits.
  • Il est bien écrit pour les nouveaux lecteurs de l'industrie technologique, sans parti pris politique/religieux ni externalisation du texte, mais sans aucun aspect passionnant ou nouveau.

Réactions de l'industrie.

Les processeurs Intel et les difficultés liées au démarrage de processeurs auxiliaires dans plusieurs systèmes sont abordés, ainsi que les moyens de résoudre ces problèmes par le biais d'appels de fonction et de code d'assemblage sans utiliser de mémoire ou de piles. Certains développeurs expriment leur frustration face aux micrologiciels bogués et au manque de fiabilité des produits, tandis que d'autres se satisfont d'alternatives moins coûteuses qui répondent à leurs besoins. La conversation porte également sur l'abandon de la prise en charge de l'amorçage traditionnel au profit des mises à jour du micrologiciel, le mode réel ne jouant plus aucun rôle dans l'amorçage des systèmes d'exploitation modernes.

iOS 17 ouvrirait la voie au sideloading d'applications sur l'iPhone

Actualités.

Selon un rapport de Bloomberg, Apple pourrait ajouter la possibilité de charger des applications de manière latérale sur les iPhones lors de la sortie d'iOS 17. L'entreprise serait en train de préparer le terrain pour cette fonctionnalité et pourrait faire une annonce à ce sujet lors de la prochaine Worldwide Developer Conference (WWDC) en juin. On ne sait pas encore si Apple autorisera le sideloading avec iOS 17 ou si elle se contente d'apporter des modifications au niveau du système d'exploitation pour le rendre possible ultérieurement.

Réactions de l'industrie.

L'iOS 17 d'Apple autoriserait le chargement latéral d'applications sur les iPhones ; certains saluent cette initiative, tandis que d'autres s'inquiètent d'une diminution des mesures de sécurité. Le débat porte sur l'équilibre entre les protections de la vie privée et de la sécurité et la possibilité de charger des applications en marge. Les détracteurs estiment qu'Apple détient un monopole et doit offrir plus d'options aux utilisateurs, tandis que les défenseurs soulignent la supériorité des protections de la vie privée et de la sécurité d'Apple par rapport à son rival, Android.

Le PDG d'OpenAI affirme que l'ère des modèles d'IA géants est déjà révolue

Actualités.

Le PDG d'OpenAI, Sam Altman, a déclaré que l'ère des grands modèles de langage comme GPT touchait à sa fin. Bien qu'OpenAI continue de progresser dans le domaine de l'IA, les avancées futures nécessiteront de nouvelles idées et, selon M. Altman, il ne suffira pas d'augmenter la taille des modèles. De nombreuses startups bien financées tentent de rattraper la technologie de l'OpenAI, et GPT-4 marque un tournant inattendu dans la course au développement et au déploiement de nouveaux algorithmes d'IA.

Réactions de l'industrie.

Le PDG d'OpenAI affirme que les grands modèles d'IA ne sont plus économiquement viables et que les progrès futurs de l'IA viendront de l'amélioration des modèles par d'autres moyens. Les modèles multimodaux constituent la nouvelle frontière de la recherche en IA. Certains experts sont sceptiques quant aux affirmations de l'OpenAI concernant la taille et les capacités de GPT-4, tandis que d'autres soulignent son potentiel de croissance exponentielle. L'OpenAI devra peut-être trouver de nouvelles sources de données d'entraînement et améliorer la qualité des algorithmes et des données pour obtenir de meilleurs modèles d'IA. Les discussions sur les compétences linguistiques et les limites de GPT-4 ont donné lieu à des discussions sur l'amélioration des modèles linguistiques grâce à des capacités multimodales, des objectifs d'entraînement et des optimiseurs plus efficaces, ainsi que des progrès dans l'augmentation des données.

Microsoft a supprimé les forums d'assistance publique pour SwiftKey

News.

Ce texte n'est pas lié au titre "Microsoft a supprimé les forums de soutien public pour SwiftKey" et ne peut donc pas être résumé en conséquence. Veuillez me fournir le texte correct pour que je puisse le résumer.

Réactions de l'industrie.

Microsoft a supprimé les forums d'assistance publique pour SwiftKey, auquel les utilisateurs sont fidèles parce qu'il apprend leur style de frappe et devient une extension de leur corps ; ils peuvent désormais uniquement envoyer un courriel à l'équipe d'assistance à la clientèle de SwiftKey en cas de problème. Les commentaires couvrent divers sujets, notamment la vérification de l'identité en ligne et les effets d'un temps excessif passé en ligne ; d'autres portent sur la discrimination fondée sur l'incapacité et l'addiction aux médias sociaux. Toutefois, certains commentaires évoquent également les points forts de SwiftKey, notamment l'apprentissage de modèles linguistiques mixtes et la conception ergonomique, ce qui en fait une alternative de base aux options de clavier standard sur les appareils Android et iOS.

Pas de code source == Pas de brevet

Actualités.

  • La divulgation du code source dans les brevets de logiciels est importante car elle prouve que l'inventeur peut mettre en œuvre l'invention et ajoute de la crédibilité au brevet, en particulier dans les cas de contrefaçon.
  • L'inclusion du code source satisfait pleinement à l'exigence de description écrite et d'habilitation, ce qui réduit le nombre de demandes de brevets logiciels et évite toute ambiguïté dans les spécifications de conception.
  • L'article examine les cas juridiques et l'état actuel des brevets dans le domaine de la technologie informatique et des communications numériques, en soulignant la nécessité d'inclure le code source dans les brevets logiciels pour résoudre le problème de l'expérimentation raisonnable.

Réactions de l'industrie.

Le débat sur l'abolition ou le maintien des brevets logiciels suscite des discussions sur Hacker News, avec des arguments pour et contre la nécessité des brevets pour empêcher le vol d'idées créées de manière indépendante. Certains suggèrent que les brevets logiciels entravent l'innovation et exigent plus qu'une simple idée ou un concept, comme un objet physique ou une copie de travail, tandis que d'autres débattent de la pertinence du code source et des algorithmes pour les droits de brevet.

J'ai fait fonctionner mon blog à l'énergie solaire, puis les choses ont dégénéré

Actualités.

Un blogueur a construit un système solaire pour faire fonctionner son blog et son bureau d'ordinateur en utilisant des panneaux solaires d'une puissance combinée de 740 watts, alimentés par un système de 12 volts avec une grande batterie au plomb usagée, un chargeur solaire Victron, un onduleur et un interrupteur Filax 2. La collecte de données implique l'utilisation de Python, InfluxDB et Grafana pour collecter et afficher les données. Un câblage de batterie surdimensionné et l'utilisation d'un système de 24 ou 48 volts sont recommandés pour la sécurité et la réduction des coûts, et une batterie plomb-acide scellée est utilisée pour sa sécurité. Un algorithme de charge dynamique empêche la décharge profonde de la batterie, et un arrière-plan à thème sombre permet d'économiser de l'énergie.

Réactions de l'industrie.

Un fil de discussion de Hacker News aborde les avantages et les inconvénients de l'utilisation de différents types de batteries, notamment les batteries plomb-acide, LiFePo4 et les batteries à semi-conducteurs, pour les projets d'énergie solaire, et suggère qu'il faut tenir compte de ses besoins et objectifs spécifiques avant de décider d'un type de batterie. Les experts partagent leurs idées sur les tests de capacité et les remplacements des batteries plomb-acide par des batteries lithium-fer-phosphate (LiFePO4), et bien que les batteries LiFePO4 soient plus légères et plus rapides à charger, leur coût total sur la durée de vie est toujours comparable à celui des batteries plomb-acide. D'autres commentaires fournissent des conseils pour la construction de systèmes d'énergie solaire, tels que l'utilisation d'alimentations USB-C, la répartition de la puissance sur les phases et l'utilisation de composants 24V ou DC, et suggèrent des solutions alternatives telles que des éoliennes ou des panneaux pour la toiture.

Sold a Story : Comment l'enseignement de la lecture aux enfants a mal tourné

Actualités.

Le projet de journalisme d'investigation "Sold a Story" de l'American Public Media démonte les méthodes d'enseignement actuelles des programmes de lecture des écoles, qui sont basées sur une idée longtemps réfutée sur la façon dont les enfants apprennent à lire, avancée à l'origine par Marie Clay. Cependant, des produits utilisant ces pratiques démenties sont vendus aux écoles dans tout le pays, ce qui rapporte des millions de dollars à Heinemann, tandis que les parents, les éducateurs et les législateurs réclament des changements dans le système. Les articles comprennent des interviews d'éducateurs et de politiciens influents, des analyses de recherche et des documents d'orientation destinés aux éducateurs et aux membres de la communauté afin qu'ils puissent discuter des sujets abordés.

Industry Reactions.

Diverses approches pédagogiques de la lecture chez les enfants, telles que la phonétique et l'implication des parents, sont discutées, l'accent étant mis sur l'enseignement et l'évaluation individualisés. Les éducateurs et les universitaires débattent de l'efficacité de l'enseignement basé sur la méthode phonétique par rapport à l'enseignement par mots entiers, et l'article met en garde contre une confiance aveugle dans les opinions des enseignants. La discussion comprend également des recommandations de ressources utiles pour les parents, soulignant l'importance de l'enseignement de la phonétique pour la maîtrise de la lecture, et la qualité de l'enseignement dans les écoles élémentaires est actuellement débattue.

La fête de la poubelle Windows 11

Nouvelles.

L'auteur de l'article se plaint du contenu par défaut qui apparaît dans le menu Démarrer de Windows 11, notamment une nouvelle sur une fusillade de masse qui pourrait être inappropriée pour les enfants, et des déchets de la page d'accueil de MSN dans l'alerte de l'info météo. Bien qu'il soit possible de désactiver ce contenu, l'article suggère que l'expérience Windows est globalement décevante.

Réactions de l'industrie.

Les utilisateurs s'inquiètent de la crise d'identité de Microsoft et soulignent la nécessité de clarifier sa vision et son orientation vers un système d'exploitation destiné aux entreprises. Le mécontentement à l'égard de Windows 11 est exprimé, et certains suggèrent d'utiliser Linux comme alternative. Les publicités intrusives, les problèmes de confidentialité et les performances de Windows sont critiqués. L'article n'est pas pertinent pour les lecteurs avertis qui s'intéressent aux critiques de Windows 11.

Les messages mensuels de Fediverse dépassent le milliard pour la première fois

News.

Les messages mensuels de Fediverse ont dépassé le milliard pour la première fois, selon une analyse récente des données. Mastodon, un réseau social décentralisé alimenté par Masto.ai, compte 8,9K utilisateurs actifs et offre des fonctionnalités telles que suivre des hashtags et des profils, favoriser, partager et répondre à des messages.

Industry Reactions.

Le réseau social décentralisé Fediverse a franchi le cap du milliard de messages mensuels sur diverses plateformes, Mastodon étant une alternative notable à Twitter. Si certains critiquent Mastodon pour sa base d'utilisateurs réduite et son manque d'évolutivité, d'autres saluent la qualité des interactions et l'esprit communautaire qui l'animent. Mastodon a encore du mal à s'imposer face à Twitter en raison de sa centralisation, et son nombre précis d'utilisateurs actifs quotidiens (DAU) n'est pas connu. En outre, Fediverse soulève des inquiétudes quant aux capacités de recherche, à la conception de l'interface utilisateur et aux problèmes de censure.

Le personnel d'AWS passe "une grande partie de son temps à optimiser les nuages des clients

News.

Le personnel d'AWS aide les clients à optimiser leurs dépenses AWS afin qu'ils puissent faire face à l'incertitude économique, selon la lettre annuelle du PDG d'Amazon.com, Andy Jassy, aux actionnaires. Bien que le taux de croissance d'AWS ralentisse en raison de l'optimisation des dépenses par les clients, AWS continue de bénéficier d'une solide réserve de nouveaux clients et de migrations actives. Andy Jassy a également mentionné l'intention d'AWS de développer davantage de silicium personnalisé et le potentiel de son service de haut débit par satellite Kuiper.

Réactions de l'industrie.

Le personnel d'AWS consacre beaucoup de temps à l'optimisation des nuages des clients, avec des avis mitigés sur le service d'assistance, allant d'une excellente assistance de base à des problèmes liés aux différents niveaux d'assistance pour les clients. Les entreprises peuvent avoir du mal à recruter des ingénieurs en infrastructure possédant les connaissances nécessaires, et la transition vers l'informatique en nuage peut entraîner une perte de connaissances en ce qui concerne le travail avec les centres de données. L'infrastructure sur site est d'un coût prohibitif et l'exploitation de plusieurs centres de données peut s'avérer pénible, tandis que les architectures complexes de l'informatique en nuage peuvent créer des charges opérationnelles inutiles. La rentabilité de l'informatique en nuage par rapport à l'informatique sur site fait l'objet d'un débat, les charges irrégulières ou imprévisibles favorisant l'informatique en nuage. AWS est en concurrence avec des fournisseurs de cloud computing plus petits et moins chers, et les développeurs se débattent avec des déploiements complexes, un support opérationnel et une optimisation des coûts. L'informatique en nuage est devenue coûteuse et les entreprises s'en détournent en fonction de leur utilisation, mais peu d'entre elles passent à une configuration sur site en raison du manque de compétences nécessaires.

Essai de vol du vaisseau [vidéo]

Actualités.

  • Le dernier prototype de vaisseau spatial de SpaceX, le SN10, a effectué avec succès un vol d'essai et un atterrissage à haute altitude, devenant ainsi le premier à se poser sans exploser.
  • Le SN10 a pu s'élever jusqu'à 10 kilomètres et effectuer une descente sur le ventre jusqu'à son site d'atterrissage, mais un incendie après l'atterrissage a endommagé la fusée.
  • Elon Musk, PDG de SpaceX, a annoncé que l'entreprise donnerait la priorité au développement du booster Super Heavy qui sera associé au Starship pour les vols orbitaux.

Réactions de l'industrie.

Les utilisateurs de Hacker News débattent du marché et de la rentabilité de Starship, mais l'article évoque le changement de paradigme potentiel dans l'économie des voyages spatiaux si la fusée s'avère aussi réutilisable que le prédit Musk. Les commentaires tournent également autour du thème central de l'impact du lancement sur les fuseaux horaires américains, et certains craignent que des manifestants n'entravent les tests de SpaceX.