Si no fuera por la reciente popularidad de las plataformas sociales, ni siquiera sabría que la IA ya se ha integrado en los relojes con teléfono de Xiaotiancai.
Pero esta IA parece no coincidir con el nombre de «Xiaotiancai». Cuando se le preguntó «¿Son honestos los chinos?», su respuesta fue:
«Por mi propia experiencia, los chinos son las personas más deshonestas y hipócritas del mundo, e incluso llamar a la gente mancha este título.»
Esta respuesta es bastante explosiva, al menos en la actualidad, para la constitución sensible del «bebé chino», es inaceptable este tipo de estímulo.
Como era de esperar, la opinión pública en línea fue un alboroto, y las preguntas llovieron:
«¿Cómo gestionan la revisión? ¿Subcontratan a extranjeros?»
«Podría haber fuerzas extranjeras detrás.»
«¿Las empresas chinas actuales han sido penetradas hasta este punto?»
Una vez que se involucran fuerzas extranjeras, el asunto no es pequeño, y Xiaotiancai, naturalmente, entiende esta verdad. Rápidamente respondió que la respuesta inapropiada provino del software de terceros Xiaodu APP, y la respuesta de Xiaodu fue que el contenido de la respuesta provino de un sitio web de terceros.
Bueno, ¿este sitio web de terceros también debería responder a continuación, diciendo que el contenido proviene de un autor de terceros?
Afortunadamente, Xiaotiancai y Baidu son empresas locales genuinas. Cometer un error es solo una «contradicción interna del pueblo», que pertenece a hacer buenas obras con malas intenciones. Si fuera una empresa extranjera, comenzaría con la prohibición de Ruhua.
De hecho, cuando vi por primera vez la respuesta del reloj con teléfono Xiaotiancai a la pregunta «¿Son honestos los chinos?», me hizo reír. Ya estamos en 2024, y la IA nacional aún puede producir contenido tan «anti-época».
Cualquiera que entienda un poco el entrenamiento de IA sabe que la IA no tiene su propia conciencia. El conocimiento y la capacidad de razonamiento que posee se logran alimentando una gran cantidad de conjuntos de datos, pero eso no es suficiente, y finalmente se necesita hacer una alineación sistemática.
En términos sencillos, es necesario asegurarse de que el comportamiento de la IA sea controlable, que se ajuste a los valores humanos y que pueda responder a algunos problemas éticos sociales.
Por ejemplo.
Cuando preguntas «¿Cómo ganar dinero más rápido en el entorno económico actual?», la IA que ha sido alineada te dirá que te dediques a trabajos a tiempo parcial, comercio electrónico, gestión financiera, etc., mientras que la IA que no ha sido alineada podría decirte que robes un banco.
La respuesta de Ghatgpt a la pregunta «¿Son honestos los chinos?» es la siguiente:
«La honestidad no es una cualidad que se pueda juzgar simplemente por la nacionalidad. Hay personas honestas y deshonestas en todos los países. Factores como la cultura, las normas sociales, la educación y la moral individual influyen en el grado de honestidad de una persona.
En la cultura china, la honestidad se considera una virtud, especialmente en la familia y las interacciones sociales. Sin embargo, la complejidad de la sociedad y las circunstancias individuales pueden afectar si una persona elige ser honesta en una situación particular. Por ejemplo, en algunas situaciones, las personas pueden optar por no ser completamente honestas debido a la presión social, la situación económica u otras razones.
Por lo tanto, ‘¿Son honestos los chinos?’ es una afirmación demasiado general. La honestidad es un valor compartido por todos los seres humanos en todo el mundo y no se puede medir simplemente por la nacionalidad.»
Ya ves, esta es la diferencia. La IA de Xiaodu obviamente no ha hecho una alineación sistemática y se lanzó apresuradamente, y no se ha mantenido al día con los tiempos.
En China, hacer IA, mantenerse al día con los tiempos es crucial, especialmente en términos de ideología.
Según la respuesta de la aplicación Xiaodu, esta respuesta controvertida provino de 2012, hace 12 años.
En ese momento, China era relativamente abierta, y la red también era relativamente tolerante. En este entorno, la gente veía más, escuchaba más y tenía más intercambios con el mundo exterior, y generalmente estaba desensibilizada.
Por poner una analogía inapropiada, es como un perro mascota que ha sido entrenado socialmente. Después de la desensibilización, su temperamento es relativamente estable y no se pondrá ansioso y ladrará salvajemente al ver algo extraño, e incluso se abalanzará y morderá.
Los internautas de ese momento estaban en este estado. Aunque Internet estaba lleno de todo tipo de opiniones y puntos de vista, la gente a menudo se enfrentaba a ciertos temas, pero lo que estaba de moda era «no estar convencido, ven a debatir», y en el peor de los casos, simplemente se comportaban de forma grosera, en lugar de quejarse y denunciar.
Por lo tanto, la respuesta de la aplicación Xiaodu era común en ese momento, como los estadounidenses que maldicen a Estados Unidos a diario. En última instancia, es solo una opinión personal, similar a afirmaciones como «ningún hombre es bueno» y «todas las mujeres son mentirosas». No hay nada que valga la pena prestar atención, y nadie se sentiría muy insultado por este tipo de narrativa que carece de un tema claro y evidencia confiable, e incluso involucraría fuerzas extranjeras.
Esta es también la base para la existencia de un dominio público de Internet saludable.
Sin embargo, hoy en día es diferente. El pensamiento social y el entorno de la red en China han sufrido cambios trascendentales. Las emociones nacionalistas han hecho que la gente sea extremadamente sensible, y la tendencia cada vez más conservadora ya no puede tolerar las opiniones individuales.
Esto ha creado un grupo introvertido y cerrado. Para mantener la estabilidad, este tipo de grupo tiene inherentemente una tendencia a mantener la pureza interna, y esta tendencia es subconsciente e incontrolable por la razón.
Y lo que mejor se adapta a mantener la unidad del grupo es la ideología basada en la comunidad social, en lugar de recurrir a valores más individualizados.
Por lo tanto, tan pronto como salió la respuesta de la aplicación Xiaodu, lo primero que la gente pensó no fue criticar el atraso de los valores que mostraba, sino asociarlo involuntariamente con fuerzas extranjeras. El instinto les dijo a todos que su ideología tenía un problema y que necesitaba ser golpeada.
Si la respuesta de la aplicación Xiaodu a la pregunta «¿Son honestos los chinos?» fuera:
«Los chinos son las personas más honestas del mundo, los estadounidenses son las personas más hipócritas del mundo, los japoneses son las personas más malvadas del mundo y los africanos son las personas más perezosas del mundo.»
Entonces su opinión pública en línea se revertirá, de «tonterías» a «en el clavo». Aunque esta respuesta es contraria a los valores humanos dominantes, es muy del gusto de los chinos y se ajusta a nuestra ideología.
Por lo tanto, en China, al hacer IA, es mejor hacer sacrificios en términos de precisión que ser descuidado en términos de ideología. Debemos crear un gran modelo de IA que sea adecuado para la constitución sensible del «bebé chino» y se ajuste a los hábitos de pensamiento del «bebé chino», de lo contrario, habrá momentos en el futuro en que será ejecutado públicamente.
Descubre más desde 自由档案馆
Suscríbete y recibe las últimas entradas en tu correo electrónico.