Double Ai: Jeu De Risque Et De Confiance, Comment La Technologie Peut - Elle Être Bonne?

De la conduite automobile à la médecine de l'IA en passant par la production industrielle, et dans tous les domaines de notre vie, l'IA montre un énorme potentiel de transformation.Cependant, avec l'élargissement et la profondeur de l'application de l'IA, de nombreux problèmes tels que la sécurité des algorithmes, la discrimination des données, l'abus de données, etc., présentent également certains risques et dangers cachés.Ainsi, les gens pensent à la confiance dans l'intelligence artificielle.

Le 9 juillet, l'Initiative pour le développement d'une intelligence artificielle crédible (ci - après dénommée « l'Initiative») a été officiellement lancée lors du Forum sur l'intelligence artificielle crédible du Congrès mondial de l'intelligence artificielle 2021.L'initiative a été lancée par le credible ai Forum et publiée conjointement par l'Académie chinoise des communications, l'Institut d'automatisation de l'Académie chinoise des sciences, le Centre de recherche sur l'éthique et la gouvernance de l'intelligence artificielle entre la Chine et le Royaume - Uni, l'Institut JD explorer et le Groupe ant, etc.

Les initiatives susmentionnées visent à promouvoir la formation d'un consensus international sur la gouvernance collaborative dans tous les domaines de la politique, de l'industrie, des universités et de la recherche, à promouvoir la compréhension et l'attention de la société à l'égard de l'IA crédible et à exploiter pleinement la valeur industrielle et sociale de l'IA.Wu Jincheng, Directeur de la Commission de l'économie et de l'informatisation de Shanghai, a déclaré aux journalistes du rapport économique du XXIe siècle que le développement d'une IA crédible, la promotion de la transparence, de la visibilité, de la sécurité et du contrôle de l'intelligence artificielle, ainsi que l'inclusion multiple, sont devenus Le consensus mondial et le seul moyen pour le développement sain de l'intelligence artificielle à l'avenir.

Il pense qu'il y a trois façons, l'une est de promouvoir la technologie de chiffrement, l'informatique multipartite sécurisée, l'apprentissage fédéré et d'autres technologies de sécurité.Améliorer les caractéristiques de sécurité de la technologie de l'IA et la capacité de protection des données.Deuxièmement, mettre en place un système d'essai et d'évaluation.Accélérer la construction et l'amélioration de normes fiables en matière d'IA et développer des technologies novatrices d'essai et d'évaluation.Troisièmement, accélérer l'amélioration des normes du système.Étudier et formuler des lois et des règlements dans les domaines de la sécurité de l'information biologique, de la sécurité des données et de la vie privée dans le cadre des lois nationales pertinentes et des lois et règlements locaux de Shanghai, afin de promouvoir le développement d'une IA crédible par la garantie du système.

De la conduite automobile à la médecine de l'IA en passant par la production industrielle, et dans tous les domaines de notre vie, l'IA montre un énorme potentiel de transformation.Gan Junshi

Le contrôle des risques n'est plus une lutte humaine

En fait, lorsque nous laissons la décision à l'IA, l'IA doit d'abord prouver qu'elle est digne de confiance.Par conséquent, sur la base de cette étude de confiance, un consensus mondial s'est formé.

Xu Peng, Directeur du Département de la haute technologie du Département de la science et de la technologie du Ministère de l'industrie et de la technologie de l'information, a déclaré que la prévention des risques et les défis, en particulier dans les domaines de la sécurité étroitement liés à la production et à la vie humaines, tels que L'éthique, l'algorithme, l'abus d'informations personnelles et la divulgation de la vie privée, ainsi que les questions de protection correspondantes, sont devenus l'un des points chauds.Il est donc urgent de mettre en place un système de sécurité de base de l'intelligence artificielle et de promouvoir un développement sain de l'intelligence artificielle crédible.

« À l'avenir, le contrôle des risques ne sera plus une lutte entre les gens, mais un jeu entre l'IA et l'IA.Le Dr Qi Yuan, Vice - Président du Groupe ant et scientifique en chef de l'intelligence artificielle, a déclaré aux journalistes du 21ème siècle que derrière des centaines de millions de transactions quotidiennes sur Alipay, ce n'est pas les investisseurs individuels qui ont lancé l'attaque, mais les gangs professionnels de la production noire.

Afin de faire face à l'attaque complexe et changeante de la production noire, il est devenu un problème difficile pour tous les praticiens de l'IA de renforcer continuellement la capacité anti - attaque du modèle de contrôle des risques et d'atteindre « une hauteur magique d'un pied, une hauteur supérieure ».

Il est entendu qu'à partir de 2018, Jiuyuan et un certain nombre d'épines technologiques de l'IA ont intégré la « théorie du jeu » économique dans l'algorithme du modèle d'intelligence artificielle et ont mis au point une nouvelle technologie de l'industrie, la « contre - mesure intelligente », c'est - à - dire qu'En combinant l'IA et la contre - mesure du jeu, la machine peut attaquer automatiquement, en temps réel et dynamiquement son propre système en matière de sécurité, améliorant ainsi la capacité du modèle.Rendre les résultats du traitement du modèle plus précis.

Cette technique est similaire au roman de Jin Yong "deux mains se battent".En raison de sa capacité de percevoir, d'analyser et de prévoir les connaissances sur les risques, il deviendra une technologie de sécurité de base dans le domaine de l'IA de confiance à l'avenir.

Selon Zeng Yi, Directeur du Centre de recherche sur l'éthique et la gouvernance de l'intelligence artificielle entre la Chine et le Royaume - Uni à l'Institut d'automatisation de l'Académie chinoise des sciences, un système d'intelligence artificielle fiable doit avoir une capacité d'apprentissage continu en ligne et de correction à tout moment.D'un point de vue technique, les derniers modèles de progrès de la technologie de l'intelligence artificielle ne semblent pas crédibles.Aujourd'hui, la technologie de l'intelligence artificielle n'est pas assez fiable, donc c'est un point de départ.En outre, l'intelligence artificielle de confiance n'est certainement pas seulement un problème technique, mais aussi une perspective sociale.Comment utiliser la technologie pour favoriser la confiance interculturelle est, à mon avis, ce qu'il faut faire, voire la clé du succès final, pour parvenir à une véritable intelligence artificielle crédible.

Il est urgent d'établir des normes industrielles

En tant que clé de la « résistance au risque » dans l'économie numérique, la technologie de l'IA de confiance a été mise en oeuvre dans de nombreux scénarios de contrôle des risques du Groupe ant, y compris la lutte contre la fraude, la lutte contre le blanchiment d'argent, la lutte contre les jeux d'argent, Le contrôle conjoint des risques des entreprises et la protection de la vie privée des données.

En plus des scénarios de contrôle des risques financiers, la technologie de l'IA de confiance est largement utilisée dans de nombreux domaines, tels que la protection de la vie privée des données et les services financiers.En juin de cette année, la 29e session du Comité permanent du 13e Congrès populaire national a voté et adopté de nombreux projets de loi et deux décisions, dont la loi sur la sécurité des données.L'article 4 de la loi sur la sécurité des données dispose que pour maintenir la sécurité des données, il faut adhérer au concept général de sécurité nationale, mettre en place et améliorer le système de gouvernance de la sécurité des données et améliorer la capacité de garantie de la sécurité des données.

Cela indique que la sécurité des données a atteint le niveau de la vision globale de la sécurité nationale, liée à la sécurité nationale.Et tous les milieux prêtent une attention particulière à cette question.

« qu'il s'agisse de l'IA ou de la science et de la technologie, il existe de nombreuses façons crédibles, comme la stabilité, l'interprétabilité, la protection de la vie privée, l'équité, et comment pouvons - nous les combiner pour former un consensus uniforme? »Tao Dacheng, académicien étranger à l'Académie européenne des sciences, académicien à l'Académie australienne des sciences et professeur à l'Université de Sydney, a soulevé sa propre question, car le manque d'interprétabilité limite également l'utilisation et l'habilitation plus larges de l'intelligence artificielle, par exemple, comment attribuer la responsabilité à un véhicule sans conducteur Après qu'il a it ét é mis en état sur la route, parce qu'il n'y a pas d'explication et que le conducteur ne peut pas le faire en quelques secondes,Jugement sur la route.

Dans une certaine mesure, c'est l'absence de normes qui limite l'application de l'IA.Tao Dacheng a en outre estimé que, que ce soit le gdpr de l'UE ou la réglementation chinoise en matière de protection de la vie privée, les utilisateurs devraient être plus prudents dans l'utilisation des données, ce qui indique que les utilisateurs ont des droits considérables en matière de protection des renseignements personnels.Ce n'est qu'en combinant les quatre capacités ci - dessus et en définissant clairement les responsabilités que nous pourrons trouver un moyen approprié de mesurer l'intelligence artificielle de confiance.

Il ne fait aucun doute que l'intelligence artificielle joue un rôle important dans d'autres domaines, comme le diagnostic médical, la conduite sans pilote et d'autres scénarios, et qu'il est probable qu'une petite erreur d'algorithme pourrait entraîner une catastrophe mortelle.Par conséquent, l'établissement d'un certain nombre d'indicateurs quantitatifs et de normes industrielles dans le processus de recherche, de développement et d'évaluation des produits, afin d'évaluer et de suivre plus strictement les règles.

L'ère de l'intelligence s'est accélérée et la science et la technologie sont essentielles au développement de la science et de la technologie.Le bien fait référence à deux aspects, l'un est votre intention bonne ou mauvaise?L'autre aspect est, quelles sont les conséquences de ce que vous faites.Le développement de la technologie pose également la question de l'équité. La vraie science et la technologie pour le bien devraient donner à chaque personne plus de droits au développement, chaque personne peut suivre l'époque, profiter de ce dividende et de l'inclusivité.

À son avis, qu'il s'agisse d'une entreprise ou d'une industrie, la mention de la confiance commence par la responsabilité.Ce n'est qu'avec de bonnes intentions que de bonnes conséquences peuvent être obtenues.Afin d'établir un développement sain et ordonné de l'écologie qui s'influencent mutuellement, se soutiennent mutuellement et dépendent les uns des autres.