Go to Contents Go to Navigation

Notre site utilise des cookies et d'autres techniques pour offrir une meilleure qualité de service. En continuant à visiter le site, vous acceptez l'usage de ces techniques et notre politique. Voir en détail

Le créateur d'un chatbot va supprimer les données et algorithmes utilisés pour créer le personnage controversé

National 15.01.2021 à 18h34

SEOUL, 15 jan. (Yonhap) -- Le développeur sud-coréen d'un chatbot féminin controversé a déclaré ce vendredi qu'il supprimera toutes les données et algorithmes d'apprentissage utilisés pour créer le personnage basé sur l'intelligence artificielle (IA) dans un contexte de de critiques croissantes concernant la collecte de données et l'utilisation d'un langage discriminatoire et offensant.

Scatter Lab, une startup basée à Séoul, a déclaré avoir décidé de mettre fin à son personnage, Lee Luda, une jeune fille censée avoir 20 ans, et de se débarrasser de sa base de données et de ses algorithmes d'apprentissage pour répondre aux préoccupations de ses utilisateurs.

La société a temporairement suspendu lundi le chatbot utilisé sur Facebook, 20 jours après avoir commencé à le déployer, en réponse à des plaintes concernant son langage discriminatoire et offensant envers les minorités sexuelles. Certains utilisateurs ont même réussi à manipuler le bot pour qu'il engage des conversations sexuelles.

L'entreprise a également été critiquée pour avoir utilisé les informations personnelles de ses utilisateurs sans leur consentement et pour ne pas avoir fait suffisamment d'efforts pour les protéger.

Scatter Lab a déclaré avoir utilisé des données collectées à travers 10 milliards de conversations sur KakaoTalk, l'application de messagerie n°1 du pays. Ces données proviennent de l'application Science of Love de KakaoTalk, lancée en 2016, qui analyse le degré d'affection entre partenaires à partir de leurs conversations.

Les utilisateurs de Science of Lab ont affirmé que la société a utilisé leurs informations personnelles sans leur consentement préalable, et certains ont même mis en garde contre un recours collectif contre la société. Luda a attiré plus de 750.000 utilisateurs après ses débuts le 23 décembre.

«Comme la base de données de Lee Luda est composée de phrases indépendantes grâce à l'anonymisation des données et que ses algorithmes d'apprentissage profond n'apprennent que des modèles de dialogue, il n'y a aucun risque de fuite d'informations personnelles», a déclaré Scatter Lab dans un communiqué. «Nous avons décidé d'écarter (les données) compte tenu de l'anxiété des utilisateurs».

Alors que la Commission de protection des informations personnelles et l'Agence coréenne pour la sécurité et l'Internet se sont penchées sur la question, la société a déclaré qu'elle se débarrasserait des données et des algorithmes après la fin de l'enquête conjointe.

Tirant les leçons de l'affaire Luda, Scatter Lab a déclaré qu'il repartira de zéro pour développer un nouveau chatbot et respectera strictement les lois sur les informations personnelles à l'avenir.

«Nous n'avons pas encore décidé si nous allons supprimer le personnage de Lee Luda ou créer un nouveau personnage de chatbot», a déclaré Scatter Lab. «Nous allons développer une nouvelle base de données et un algorithme d'apprentissage approfondi à partir de zéro.»

Cette image, capturée à partir du site Web de Scatter Lab, montre son chatbot, Lee Luda, le 11 janvier 2021. (Revente et archivage interdits)

mathieu@yna.co.kr

(FIN)

Mots clés
Accueil Haut de page