OpenAI a supprimé les restrictions en « petits caractères » relatifs à l’utilisation de sa technologie d’IA à des fins militaires. Ce changement laisse entrevoir une position moins ferme de la société en matière de collaboration avec les entreprises de défense.
Un petit texte supprimé, mais qui en dit long. OpenAI a en effet effacé la référence à l’utilisation de sa technologie d’IA ou de ses grands modèles de langage à des fins militaires. Avant cette modification intervenue le 10 janvier, la politique d’OpenAI interdisait spécifiquement l’utilisation de ses modèles pour le développement d’armes, la guerre et l’armée, ainsi que les contenus qui promeuvent, encouragent ou décrivent des actes d’automutilation. OpenAI a déclaré que les politiques mises à jour résument la liste et rendent le document plus « lisible » tout en offrant des « conseils spécifiques au service ».
La liste a été condensée dans ce que l’entreprise appelle les politiques universelles ou Universal Policies, qui interdisent à quiconque d’utiliser ses services pour nuire à autrui et interdisent la réutilisation ou la distribution de tout contenu issu de ses modèles pour nuire à autrui. Alors que ce changement dans les politiques est interprété comme un affaiblissement progressif de la position de l’entreprise dans sa collaboration avec les entreprises de défense ou liées à l’armée, les « risques posés par les modèles IA de frontière » ont déjà été soulignés par plusieurs experts, dont le CEO d’OpenAI, Sam Altman.
Mise en évidence des risques posés par l’IA
En mai dernier, des centaines de dirigeants de l’industrie IT, des universitaires et d’autres personnalités ont signé une lettre ouverte mettant en garde contre le risque d’extinction lié à l’évolution de l’IA, affirmant que le contrôle de cette technologie devait être une priorité mondiale absolue. « L’atténuation du risque d’extinction lié à l’IA devrait être une priorité mondiale au même titre que d’autres risques sociétaux comme les pandémies et les guerres nucléaires », peut-on lire dans la déclaration publiée par le Center for AI Safety, dont le siège est à San Francisco. Paradoxalement, les signataires les plus importants de la lettre sont Sam Altman et le CTO de Microsoft, Kevin Scott. Des dirigeants, des ingénieurs et des scientifiques du laboratoire de recherche en IA de Google, DeepMind, ont également signé le document. La première lettre contre l’utilisation de l’IA remonte au mois de mars, dans laquelle plus de 1100 personnalités du monde de l’IT ont mis en garde les laboratoires qui réalisent des expériences à grande échelle avec l’IA.
En octobre, OpenAI a déclaré qu’elle préparait une équipe pour empêcher ce que l’entreprise appelle les modèles IA « boundaries (tampons) » de déclencher une guerre nucléaire et d’autres menaces. « Nous pensons que les modèles IA de tampon, qui dépasseront les capacités actuellement présentes dans les modèles existants les plus avancés, peuvent profiter à l’ensemble de l’humanité. Mais ils posent aussi des risques de plus en plus graves », a déclaré l’entreprise dans un billet de blog. En 2017, un groupe international d’experts en IA et en robotique a signé une lettre ouverte aux Nations Unies pour mettre fin à l’utilisation d’armes autonomes qui menacent une « troisième révolution dans les affaires militaires ». Toujours très paradoxalement, Elon Musk, qui a créé une entreprise d’IA baptisée X.AI, pour concurrencer OpenAI, figurait parmi ces experts.
Les récentes recherches d’Anthropic inquiètent
D’autres raisons devraient nous inquiéter davantage. Certains chercheurs affirment que les modèles d’IA dits « diaboliques » ou « mauvais » ne peuvent pas être réduits ou entraînés à devenir « bons » avec les techniques existantes. Un document de recherche, dirigé par Anthropic, qui a voulu savoir s’il était possible d’enseigner à un système d’IA un comportement mensonger ou une stratégie fallacieuse, a montré que l’on pouvait rendre ce genre de comportement persistant. « Nous constatons qu’un tel comportement peut être rendu persistant, de sorte qu’il n’est pas éliminé par les techniques courantes d’entraînement à la sécurité, y compris le réglage fin supervisé, l’apprentissage par renforcement et la formation contradictoire (susciter un comportement dangereux et s’entraîner à l’éliminer) », ont écrit les chercheurs.
« Nos résultats suggèrent qu’une fois qu’un modèle présente un comportement trompeur, les techniques courantes pourraient ne pas réussir à éliminer cette tromperie et à créer une fausse impression de sécurité », ont-ils ajouté. Selon les chercheurs, ce qui est encore plus inquiétant, c’est que « l’utilisation d’un entrainement contradictoire pour mettre fin au comportement trompeur des modèles peut leur apprendre à mieux reconnaître le déclencheur de leur porte dérobée, et de dissimuler ainsi efficacement un comportement dangereux ».
Construite sur le moteur de dernière génération d’InfluxData, la déclinaison Clustered constitue une alternative à InfluxDB Enterprise en supportant les requêtes SQL.
Dans le domaine des bases de données en série chronologiques (TBSD) , il faudra compter sur la déclinaison Clustered d’InfluxDB. La base distribuée, managée et open source pour les déploiements sur site et dans les cloud privés est désormais disponible. Elle a vocation à remplacer l’ancienne offre Enterprise en intégrant un moteur capable de supporter les requêtes SQL. Dans la même veine, deux autres offres s’appuie sur ce moteur : Influx DB Cloud Serverless et Cloud Dedicated. « Une autre version de la base de données, baptisée InfluxDB 3.0 Edge, dont le lancement est prévu cette année, pourra fournir une base de données chronologiques pour un déploiement local ou edge », a indiqué par ailleurs InfluxData.
« Par rapport à Enterprise, Clustered peut traiter les requêtes au moins 100 fois plus rapidement sur des données à haute cardinalité », a expliqué l’éditeur, ajoutant que la version Clustered peut également ingérer des données 45 fois plus rapidement que l’édition Enterprise. Dans un système de gestion de base de données, la cardinalité peut être définie comme le nombre d’ensembles uniques de données stockées dans une base de données. Plus la cardinalité est importante, plus la base de données peut évoluer. « La dernière version réduit aussi de 90 % les coûts de stockage, grâce à un object store bon marché, à la séparation du calcul et du stockage, et à la compression des données », a ajouté l’entreprise. En outre, InfluxDB Clustered offre des fonctions de sécurité et de conformité, notamment le cryptage des données en transit et au repos, ainsi que d’autres fonctions comme le SSO, les options de réseau privé et le contrôle d’accès basé sur l’attribution. La base de données devrait également prendre bientôt en charge la conformité aux normes SOC 2 et ISO.
Un impact positif sur la base de client d’InfluxData
Selon Carl Olofson, vice-président de la recherche chez IDC, le lancement de Clustered donne à InfluxData des moyens pour séduire les utilisateurs qui attendent la prise en charge des clusters pour l’extensibilité et la haute disponibilité, car ces deux caractéristiques deviennent des exigences essentielles pour toutes les entreprises. En particulier, selon IDC, le recours de plus en plus important à des applications IoT pour traiter des opérations dans les industries du pétrole et du gaz, de la logistique, de la chaîne d’approvisionnement, du transport et de la santé a accru la demande en bases de données pouvant gérer des charges de travail avec des données de séries chronologiques. Selon le site web de recommandation de bases de données dbengines.com, InfluxDB est en concurrence avec les solutions d’entreprise comme Graphite, Prometheous, TimeScaleDB, QuestDB, Apache Druid et DolphinDB, entre autres choses.
Cependant, le consultant, a déclaré qu’InfluxDB, en tant que base de données chronologique native, présentait des avantages par rapport à d’autres bases de données auxquelles on a ajouté le support des données chronologiques. « Sa simplicité et l’absence de coût supplémentaire en font la solution idéale pour capturer des données en continu, en particulier les données de capteurs, qui constituent la forme la plus courante de données nécessitant une analyse de séries chronologiques, et que les systèmes de gestion de bases de données plus complexes ne sont généralement pas en mesure de gérer », a-t-il ajouté. Par contre, ce dernier se demande si InfluxData pourra assurer le support de son offre Clustered, « car la mise en place d’un support de cluster approprié pour un système de base de données est compliquée », a-t-il déclaré. « InfluxDB étant open source, l’entreprise n’a pas un contrôle total sur son évolution, et même si le code de support des clusters n’est pas open source, il doit toujours s’intégrer dans le framework d’InfluxDB et d’Apache Arrow, eux-mêmes en permanente évolution », a déclaré Carl Olofson.
Après le secteur des télécoms, Snowflake poursuit son approche verticale de son data cloud en ciblant les administrations gouvernementales et le secteur de l’éducation.
Petit à petit, Snowflake étoffe son portefeuille de cloud sectoriel en lançant un data cloud à destination des entités gouvernementales et de l’éducation. Cette offre s’appuie sur le datawarehouse cloud de l’éditeur, où il combine les outils d’entreposage de données, d’analyse et de conformité avec un accès à des sources de données et à des ressources tierces via une place de marché. Cette dernière est basée sur des partenariats conclus avec des acteurs comme Plante Moran, Vantage Point Consulting, Carto, Collibra et Immuta.
Chaque partenaire de Snowflake apporte différentes capacités au Government and Education Data Cloud. Par exemple, PowerSchool et Merit proposent aux établissements scolaires et à l’administration d’offrir des opportunités aux étudiants, d’œuvrer pour la réussite scolaire et favoriser l’entrée dans la vie active, et de donner aux organisations gouvernementales des États les moyens de réagir rapidement en temps de crise. L’université de New York et la ville de Tacoma comptent parmi les clients de ce nouveau cloud de données.
Priorité aux normes de sécurité des données et à l’unification des données
Selon Snowflake, ce cloud sectoriel est très axé sur les normes de sécurité et l’unification des données. Cette offre a déjà obtenu les certifications FedRAMP Moderate et StateRAMP High qui aident les institutions fédérales, étatiques et locales à respecter les normes de sécurité et de conformité. Le premier est une norme qui fournit des autorisations de sécurité pour les services cloud. Selon le gouvernement américain, FedRAMP Moderate est la norme la plus utilisée par la plupart des services cloud.
Quant à StateRAMP, c’est un framework développé en 2020 par un comité de pilotage de DSI et de RSSI, qui peut être mis en œuvre par les responsables pour améliorer en continu la cybersécurité des gouvernements étatiques et locaux, des fournisseurs et des électeurs qu’ils servent. « Le Government and Education Data Cloud est conforme à l’International Traffic in Arms Regulations, aux Criminal Justice Information Services, à l’Internal Revenue Service 1075, au Federal Acquisition Regulation et au Defense FAR Supplement », a indiqué le fournisseur.
Un catalogue qui s’étoffe
Selon Snowflake, ce focus sur la sécurité et la conformité vise à résoudre le problème du partage des informations ou de la collaboration avec les données dans les institutions gouvernementales. Bon nombre de ces entités partagent encore des données de manière ad hoc ou physique, ce qui accroît le risque de fuite d’information. « Les outils de données pré-intégrés dans le Government and Education Data Cloud aideront les établissements d’enseignement à s’unifier et à tirer parti de leurs connaissances », a encore déclaré Snowflake.
L’année dernière, le fournisseur avait déjà lancé les offres sectorielles Retail Data Cloud pour les retailers et les fabricants et Healthcare and Life Sciences Data Cloud pour le secteur de la santé et des sciences de la vie.
La résilience des outils collaboratifs en mode cloud se pose après une énième panne de Microsoft 365. La suite a été dans le noir pendant plus de huit heures hier.
Si l’adage veut que quand on aime, on ne compte pas, en termes de pannes, il n’y a point de sentiment sauf celui de l’exaspération. Hier, la suite Microsoft 365 a été encore interrompue pendant huit heures, rendant inaccessible l’accès à Outlook, Teams, OneDrive for Business et SharePoint. « Nous examinons nos systèmes de réseau et les mises à jour récentes afin d’identifier la cause profonde du problème. Des informations supplémentaires sont disponibles dans le Centre d’administration sous la référence EX571516 », a déclaré Microsoft dans un tweet au moment de l’incident. Deux heures plus tard, la firme a décidé de stopper le déploiement des mises à jour pour Microsoft 365 et a déclaré que les services étaient en cours de rétablissement.
Une double panne
Mais quelques heures plus tard, les services Microsoft 365 étaient à nouveau perturbés. « Le problème à l’origine des évènements MO571683 et EX571516 s’est reproduit et nous en recherchons la cause. Nous fournirons des mises à jour liées à cet événement sous la référence MO572252 dans le Centre d’administration », a déclaré l’entreprise toujours sur Twitter. Selon les derniers messages, le problème a été résolu dans les trois heures qui ont suivi. Environ 18 000 utilisateurs ont été touchés au plus fort de la panne, selon les données du site Downdetector. La seconde panne a touché plus de 5 000 utilisateurs à son apogée.
La page d’état des services de Microsoft 365 montre également que Teams et Outlook souffrent actuellement d’un problème de doublons dans la liste de contacts. « Celui-ci n’affecte que les utilisateurs ayant synchronisé les contacts de leur compte personnel avec Microsoft Teams. Les autres synchronisations ne donnent plus lieu à des contacts en double depuis que nous avons déployé le correctif à long terme », a déclaré Microsoft, ajoutant que les utilisateurs pouvaient soit attendre que Microsoft nettoie les contacts en double, soit suivre la solution de contournement proposée.
Une récurrence des perturbations
Avec ces deux pannes de lundi, c’est la septième fois que le service de l’entreprise est interrompu au cours des six derniers mois. En mai, Microsoft avait signalé que les utilisateurs britanniques rencontraient des problèmes pour accéder à certaines offres de sa suite bureautique. En avril, il avait déclaré qu’il enquêtait sur un problème qui empêchait les abonnés d’utiliser la fonctionnalité de recherche dans plusieurs services. Outlook on the Web, Exchange Online, SharePoint Online, Microsoft Teams et les clients de la version desktop d’Outlook figuraient parmi les services concernés. Toujours début avril, les clients ne pouvaient pas accéder aux applications web de Microsoft 365 et à Teams. L’entreprise a également subi une panne mondiale en février et, une fois de plus, les utilisateurs n’avaient pas pu accéder aux courriels et à Teams. Une panne similaire avait eu lieu en janvier.
- 1
- 2