Garanties modérées des développeurs ; Apple approuve l’application basée sur ChatGPT

Apple aurait approuvé l’application basée sur le chatbot AI après les assurances de son développeur concernant la modération du contenu au milieu des inquiétudes croissantes concernant les escrocs ChatGPT et même la création de contenu inapproprié pour certains utilisateurs.

Selon un rapport du Wall Street Journal, Apple a approuvé une application appelée aBlueMail après que le développeur a assuré qu’elle disposait d’outils de mesure de contenu.

Apple a testé si une fonctionnalité logicielle qui utilise des outils linguistiques alimentés par l’IA “peut générer un contenu inapproprié pour les enfants”.

Selon Ben Volach, co-fondateur du fabricant d’applications Blix Inc., il a déclaré à Apple que “sa mise à jour inclut la modération du contenu”.

Il a suggéré que “l’entreprise devrait publier toute nouvelle politique concernant l’utilisation de ChatGPT ou d’autres systèmes d’IA similaires dans les applications”.

L’application BlueMail est toujours disponible pour les utilisateurs âgés de 4 ans et plus, selon le rapport.

Apple rassemble et examine chaque application avant de les approuver pour son App Store.

Cependant, l’utilisation de ChatGPT pose des problèmes.

Depuis sa sortie, les chercheurs ont été confrontés à des problèmes éthiques dans son utilisation, car une grande partie de sa production est difficile à distinguer du texte écrit par l’homme.

Le moteur de recherche Bing, basé sur le chatbot basé sur ChatGPT, a récemment fait la une des journaux après avoir déclaré à un journaliste du New York Times qu’il l’aimait, a avoué ses désirs destructeurs et a déclaré qu’il “veut être en vie”, laissant le journaliste “profondément troublé”.

Les cybercriminels utilisent également ChatGPT pour créer des robots Telegram capables d’écrire des logiciels malveillants et de voler des données.

–IANS

na/ksk/

(Seuls le titre et l’image de ce rapport peuvent avoir été modifiés par le personnel de Business Standard ; le reste du contenu a été automatiquement généré à partir du flux syndiqué.)