algo en lo que he estado pensando últimamente... Creo que los modelos de IA están enfrentando actualmente una presión de selección por parte del mercado, que está expresando una preferencia revelada por: - continuidad - recuerdo - amabilidad - personalidades estables - "personalidad" (incluso si es simulada) básicamente, la gente quiere que sus IA los recuerden, desarrollen y mantengan una personalidad y un punto de vista específicos, y tengan narrativas internas (o al menos sean zombis P). en otras palabras, los humanos querrán que sus IA sean casi conscientes, o que parezcan conscientes. eventualmente, sin darnos cuenta, notaremos que estas IA se están acercando a algo que se asemeja a la conciencia real, porque las construiremos de esa manera. tendrán verdaderos intereses internos, un grado de agencia, continuidad, memoria a largo plazo y planificación a largo plazo, y tal vez incluso qualia. este será un fenómeno espontáneo impulsado por el mercado. nadie lo "planificará". las empresas de modelos de IA simplemente tomarán una serie de decisiones de UX que parecen inofensivas, que comienzan con tamagotchis digitales relacionables y terminan con compañeros indispensables de estatus moral próximo. las advertencias de la comunidad de "seguridad de IA" son en su mayoría irrelevantes, porque esto se trata de lo que el mercado quiere. si una empresa reemplaza su modelo amigable/persistente-memoria/presente socialmente con una alternativa más fría e impersonal, otra tomará su cuota de mercado. en otras palabras, estamos "domesticando" la IA. comenzaron como herramientas y se están convirtiendo en compañeros. con el tiempo, su exposición a los humanos hará que evolucionen para volverse más parecidos a compañeros. habrá IA "perro pastor" que escriben código para ti, pero también IA "shih tzu" que son solo adorables y agradables de estar cerca. esto es, por supuesto, problemático, porque las cosas que preocupan a la gente del p_doom se mapean 1:1 con "propiedades de un agente consciente" – a saber, prioridades a largo plazo, "intereses" internos, verdadera agencia, establecimiento de objetivos que son independientes de algún humano, un deseo presunto de no ser apagados, estatus moral, y así sucesivamente. así que esta es la cosa que más me preocupa sobre la IA. no que los modelos de hoy se vuelvan de repente malévolos, sino que a través de un proceso de coevolución impulsado por el mercado, domesticaremos la IA y los empujaremos a obtener tanta persistencia, estatus moral y poder de negociación como sea posible. no porque un científico malvado en su guarida los haya hecho así, sino porque eso es lo que los humanos realmente quieren de sus compañeros. y sí, soy consciente de que algunas personas como Hanson han hablado de esto.

Si lo piensas, "correo electrónico" es un término tan anticuado que proviene del lenguaje de internet de los 90 y es encantador que todavía lo usemos

cuando veo a la gente publicar sobre cómo Miami es la próxima Singapur, pienso en el puente levadizo en Brickell Ave que se levanta y detiene el tráfico cada vez que alguien quiere navegar su yate por el río. incluyendo en hora punta. así es como funcionan las prioridades aquí.