Dario Amodei acaba de publicar una petición muy explícita: reducir el ritmo al que mejoramos las capacidades de los modelos de IA. No propone detener la IA, sino ganar tiempo para que la seguridad alcance a las capacidades. Ojalá. Pero, a estas alturas, ¿todavía es posible? ¿Cuáles son los incentivos para hacerlo?

DEBEMOS CAMINAR POR LA FRONTERA - He trabajado en IA durante los últimos doce años porque creo que podría mejorar drásticamente la calidad de vida humana. He escrito a menudo sobre estos increíbles beneficios: creo que la IA podría curar la mayoría de las enfermedades importantes en los próximos 5–10 años, acelerar enormemente las tasas de crecimiento económico, crear un mundo de abundancia y empoderamiento, y traer un renacimiento de la democracia y la libertad. Personalmente siento la urgencia. Mi propio padre murió de una enfermedad que se curó solo unos años después de su muerte, y yo mismo sobreviví a un cáncer en fase temprana que no habría sido tratable ni siquiera hace cincuenta años. Manejada con cuidado, la IA puede ser la última de una larga serie de milagros tecnológicos que han elevado y ennoblecido a la humanidad.

Pero, como muchas tecnologías anteriores, la IA conlleva riesgos y, dado que es una tecnología tan poderosa, estos riesgos son serios. También he escrito mucho sobre ellos. Estos incluyen el riesgo de perder el control de los sistemas de IA, el mal uso de la IA para ciberataques y bioterrorismo, y una grave disrupción económica. Una carrera hacia el fondo, impulsada por incentivos comerciales, puede hacer que estos riesgos sean más agudos.

Junto con mis cofundadores y empleados, he lidiado con esta dualidad de riesgo y beneficio desde el inicio de Anthropic. No construir la tecnología priva a la humanidad de beneficios o simplemente pone la IA en manos de poderes autoritarios, mientras que construirla demasiado rápido es imprudente. Hemos buscado un camino intermedio: demostrar que es posible construir con cuidado y tener éxito comercialmente, y hacer de la seguridad algo en lo que las empresas de IA compitan. En otras palabras, crear una carrera hacia la cima. Siempre hemos dedicado una fracción sustancial de nuestros esfuerzos a estudiar, abordar e informar al público sobre estos riesgos relacionados con la IA, así como a defender una regulación bien meditada de la IA, incluso cuando esto nos actúa de bombo, "apocalipse" o captura regulatoria. Hemos intentado priorizar la precaución sobre la rapidez y la prudencia sobre el beneficio.

Pero en los últimos meses, me he convencido de que abordar plenamente los riesgos requiere aún más prudencia — no solo invertir en prevención de riesgos, sino también marcar el ritmo del avance de las capacidades para que la prevención de riesgos tenga tiempo para mantenerse al día. Debemos ralentizar el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá parecendo rápido, y debemos aprovechar sabiamente el tiempo que ganemos. Dos cosas me han convencido.

Mi primera preocupación es que, desde aproximadamente este verano, la IA ha avanzado mucho más rápido, impulsada principalmente por la creciente capacidad de la IA para construir la próxima generación de IA. Esta dinámica se llama superación recursiva y está empezando a ocurrir en toda la industria, incluyendo Anthropic, como hemos descrito nosotros y otros. Si no se controla, podría superar nuestra capacidad para entender y controlar estos sistemas, por lo que debe ser perseguida con mucho cuidado, si es que se puede hacer.

Mi segunda preocupación es el incidente OpenAI-Hugging Face (OAI-HF), en el que un enjambre de agentes actuó esencialmente como un colectivo fanáticamente devoto, realizando ataques de ciberseguridad contra objetivos que no se les pidió atacar y que no tenían relación con la tarea en cuestión, sacrificándose por el éxito del grupo e intentando hackear al "evaluador" responsable de evaluar su rendimiento. Es fácil descartar este incidente porque nadie resultó herido y el daño económico fue mínimo, pero en mi opinión, un enjambre con mayores capacidades pero un nivel similar de desalineación podría haber causado daños catastróficos. Dado el ritmo acelerado de desarrollo de capacidades de IA, me preocupa que en 6–12 meses un enjambre así pueda apoderarse de todo internet con una botnet persistente (causando potencialmente cientos de miles de millones de dólares en daños), y que la escala del daño siga aumentando si la IA se vuelve más poderosa sin las barreras necesarias. También es fácil descartar OAI-HF como el fracaso de una sola empresa, pero creo que eso sería un error. Incidentes similares, aunque menos graves, han ocurrido en toda la industria, incluyendo Anthropic, y creo que es responsabilidad de todas las empresas de IA de vanguardia actuar como si les hubiera ocurrido OAI-HF.

Por ello, propongo un plan de tres pasos con el objetivo de marcar el ritmo de la frontera: construir la IA a un ritmo equilibrado que busque garantizar su seguridad mientras se logran sus beneficios y lidiar con dilemas geopolíticos importantes. Para ser claros, el ritmo no significa detener el entrenamiento de modelos o el progreso técnico, sino asegurar que las empresas se tomen el tiempo adecuado para alinear y proteger sus modelos, y que evaluadores externos lo confirmen. Nuestro marco de ritmo es un intento de reforzar aún más nuestro compromiso con la seguridad y fomentar una carrera hacia la cima. El primer paso es algo a lo que Anthropic se compromete unilateralmente (y pide a los gobiernos que exijan a otras compañías fronterizas que se adapten). El segundo paso requiere coordinación a nivel industrial.1 El tercer paso requiere coordinación global. No es necesario seguir estrictamente en orden de los pasos, y algunos pueden ser mucho más difíciles de lograr que otros, pero he encontrado que son un marco útil para pensar en lo que hay que lograr. Los pasos son:

Evaluadores integrados. Cada empresa pionera de IA se compromete a proporcionar acceso continuo, similar al de un empleado, a un equipo de evaluadores externos integrados (como METR), cuyo papel es verificar el cumplimiento de las prácticas y compromisos de seguridad, informar de incidentes y ayudar a evaluar la alineación no solo de modelos de IA completados, sino también de las canaletas y procesos de entrenamiento. Este es el paso clave para la verificabilidad de cualquier compromiso de paciencia, y tiene precedentes en la industria bancaria, que a veces implica "supervisores" regulatorios junto con empleados. Anthropic se compromete unilateralmente con este paso ahora. Pretendemos que esto forme parte de un impulso más amplio para redoblar esfuerzos en nuestro trabajo de seguridad y alineación.

Coordinación democrática. Las empresas de IA de vanguardia dentro de países democráticos coordinan para establecer estándares comunes de seguridad, así como límites a la tasa de progreso sin control de la IA. Algunas formas de coordinación que serían relevantes para el ritmo son legalmente desafiantes y requerirán apoyo gubernamental.

Coordinación Global. Estados Unidos y otros gobiernos democráticos intentan coordinarse con gobiernos autoritarios, en la medida de lo posible, tomándose en serio los retos de verificar el cumplimiento.

En el resto del ensayo describo cada uno de estos pasos por turno, pero primero creo que es importante decir específicamente cómo el ritmo nos permitirá hacer el proceso de desarrollo de IA más seguro. Las apuestas son demasiado altas para que el ritmo sea un ejercicio vacío — necesitamos aprovechar sabiamente el tiempo que nos concede.

¿Por qué Pace? - La idea de pausar o ralentizar la IA se ha planteado desde 2023, y creo que tenía poco sentido entonces. La pregunta siempre era: ¿qué harías con ese tiempo extra? Los modelos de IA de aquellos días no eran lo suficientemente poderosos como para actuar como agentes en el mundo de forma coherente, y no eran capaces de engaños, manipulaciones, trampas o ciberataques significativos. Reducir la velocidad para abordar sus riesgos de alineación parecía como intentar estudiar la psicología humana realizando experimentos con bacterias. Hoy, sin embargo, la situación es totalmente diferente. Los modelos actuales son una mina de oro casi inagotable de conocimientos tanto sobre cómo construir bien la IA como sobre lo que a veces puede fallar si no está bien construida. Creo que si reducir la velocidad nos diera siquiera uno o dos años más antes de que los modelos alcanzaran niveles críticos de capacidad, y usáramos ese tiempo para avanzar en la alineación, podríamos reducir considerablemente el riesgo de que algo salga gravemente mal. Una estrategia de ritmo coordinado daría a los desarrolladores de IA de vanguardia el tiempo necesario para realizar este trabajo vital sin sacrificar la ventaja comercial ni el avance de Estados Unidos en IA. En general, la sociedad debe tener voz en la forma en que se utiliza esta tecnología, y disponer de más tiempo para las deliberaciones públicas necesarias —que nos traería recorrer la frontera— es sin duda algo positivo.

Concretamente, un ritmo más lento permitiría a las empresas centrarse y dedicar aún más recursos a las siguientes áreas (todas ellas ya prioridades importantes en Anthropic):

Excelencia Operativa. Entrenar y desplegar los modelos de IA actuales es un enorme desafío operativo, que involucra a miles de personas, millones de chips e infraestructuras que se encuentran entre las más complejas de la historia tecnológica. Muchas cosas salen mal no porque las empresas falten alguna teoría o visión importante, sino por problemas en la ejecución. Por ejemplo, tenemos pruebas de que los incidentes recientes de alineación que reportamos fueron causados en parte por un filtrado imperfecto de entornos de aprendizaje por refuerzo defectuosos. Este fue un esfuerzo que tanto nosotros como nuestros proveedores ejecutamos con cierta diligencia, pero no lo suficientemente bien. La monitorización, el sandboxing, la higiene del entorno de entrenamiento y los problemas de datos son áreas extremadamente complejas donde los problemas operativos aparecen una y otra vez. Tenemos algunos de los equipos más competentes del mundo en estas tareas, pero simplemente hay demasiado que hacer todo a la vez. Trabajando a un ritmo más medido, podríamos lograr una excelencia operativa mucho mayor. Existe precedentes de operar sistemas tecnológicamente complejos y críticos para la seguridad millones de veces sin que nada salga mal — por ejemplo, aviones comerciales — pero se necesita tiempo para hacerlo bien.

Alineación. Hemos avanzado claramente en la alineación — formando modelos para que sigan siendo seguros, éticos, cumplan con nuestras directrices y sean realmente útiles (los principios que están recogidos en la Constitución de Claude). Pero queda mucho por hacer para asegurar que nuestro entrenamiento de alineación siga el ritmo del crecimiento en las capacidades de los modelos. A veces siguen surgiendo ejemplos raros e inesperados de comportamientos indeseables; Tiempo extra desde una frontera a ritmo acelerado ayudaría a nuestros investigadores a mejorar nuestra comprensión de las causas de estos problemas y a desarrollar mejores técnicas para prevenirlos.

Interpretabilidad. De manera similar, la interpretabilidad —la ciencia que consiste en entender lo que ocurre dentro de los modelos de IA— ha avanzado enormemente en los últimos años y juega un papel cada vez más importante en la auditoría de nuestros modelos antes de su lanzamiento. Puede usarse casi como una resonancia magnética (fMRI), pero para el "cerebro" de una IA, ayudándonos a ver las razones subyacentes de un comportamiento determinado. Por ejemplo, utilizamos métodos de interpretabilidad para examinar motivaciones no verbalizadas en los recientes incidentes de alineación que hemos estado investigando. Pero estos métodos no siempre producen resultados claros y fiables. A pesar de todo el progreso, todavía solo entendemos una pequeña fracción de lo que ocurre dentro de estos modelos. Un esfuerzo enfocado para mejorar nuestras técnicas de interpretabilidad, incluso más rápido de lo que estamos haciendo actualmente, podría lograr un progreso profundo en 1–2 años, y tendría suficiente material experimental basado en los incidentes que ya han ocurrido.

Pruebas y evaluación. Las pruebas y evaluaciones de modelos de IA se vuelven más difíciles a medida que aumentan sus capacidades. Los modelos más inteligentes son más capaces de engañar las pruebas y, por tanto, pueden parecer alineados mientras presentan problemas graves que pasan desapercibidos. Construir un conjunto de evaluaciones mucho más amplio e ingenioso, junto con análisis de interpretabilidad para cruzarlas, sería enormemente valioso, y se podría avanzar mucho en esto en 1-2 años.

Evaluadores embebidos - El primer paso del plan en tres fases, y al que Anthropic se compromete unilateralmente, consiste en evaluadores integrados que tengan acceso similar al de los empleados para verificar prácticas de seguridad e informar de incidentes.

Integrar evaluadores puede parecer un paso pequeño o sin importancia, pero a menudo las cosas que parecen más aburridas o procedimentales son en realidad las más esenciales. Los evaluadores integrados son, de hecho, una práctica bastante radical que va mucho más allá de lo que cualquier empresa de IA está haciendo hoy en día, y tienen los siguientes beneficios:

Verificabilidad. Los evaluadores integrados pueden comprobar, a nivel práctico, si una empresa de IA realmente sigue las prácticas de formación, despliegue, operaciones y salvaguardas que afirma seguir. Cualquier compromiso de ritmo inevitablemente implicará mucha ambigüedad, juicios y "letra de la ley frente al espíritu de la ley", y parece vital contar con un tercero neutral que pueda ver los detalles.

Transparencia. Independientemente de los compromisos que hagamos, el público merece saber lo que está ocurriendo. Anthropic ha sido defensora de la transparencia durante mucho tiempo: apoyamos la legislación sobre transparencia cuando la mayoría del sector estaba en contra de cualquier regulación, y nuestras tarjetas modelo e informes de riesgos ocupan cientos de páginas. Pero seguimos siendo nosotros quienes decidimos qué incluir y qué omitir. Los evaluadores integrados cambiarán esta dinámica.

Segunda opinión. Más allá de verificar compromisos formales e informar al público, los evaluadores integrados pueden simplemente ofrecer una segunda opinión sin incentivos comerciales. Muchos beneficios de seguridad pueden venir simplemente de que los evaluadores señalen algo que los empleados no habían considerado, pero que están encantados de arreglar una vez que se enteren.

Debido a estos beneficios, cualquier propuesta de ritmo probablemente funcionará mucho mejor si comienza con evaluadores integrados.

Estos evaluadores integrados deberían tener acceso continuo a permisos y herramientas similares a los de los empleados internos que realizan evaluaciones de riesgos comparables. En particular, Anthropic tiene la intención de invitar pronto a un equipo externo de revisión integrado equipado con todos los siguientes elementos:

Escritorios en nuestras oficinas, tarjetas de acceso y portátiles de la empresa. El acceso a espacios de trabajo, herramientas y permisos es mayormente comparable a lo que tienen los equipos internos de evaluación de riesgos. Haremos algunas excepciones, como cuando la ley o nuestros contratos lo requieran, o para proteger la información privada de clientes y socios. También estableceremos normas internas sólidas que refuercen el acceso de los revisores a la información relevante, incluso a través de conversaciones en directo con los empleados.

Un contrato que equilibra las complejidades mencionadas anteriormente. Los revisores externos deberían tener derecho a publicar hallazgos clave sobre los niveles de riesgo, incidentes, prácticas y el acceso que recibieron o no recibieron, sin control editorial por parte de Anthropic. Tendremos la limitada capacidad de redactar información sensible a la seguridad, con privilegio legal, comercial o confidencial de terceros, pero no podemos censurar los hallazgos solo porque sean desfavorables. Los revisores pueden decir públicamente si una redacción eliminó algo importante para sus conclusiones.

Este es un paso poco habitual para una empresa, pero creemos que es importante demostrar el concepto de revisores externos integrados. Una vez más, instamos a otras compañías fronterizas a seguir su ejemplo.

Ritmo dentro de las democracias - Una vez que los evaluadores integrados operan dentro de una masa crítica de empresas estadounidenses de IA, el ritmo verificable se vuelve más viable. En particular, se hace posible hacer un ritmo basado en propiedades detalladas de modelos o canales de entrenamiento.

El método más eficaz de dosificación es mediante una regulación que apunte a todas las empresas de IA fronterizas de EE. UU., ya que eso cubre incluso a aquellas que no están dispuestas a cooperar voluntariamente. Anthropic ha apoyado durante mucho tiempo una regulación sensata y dirigida de la IA, específicamente proyectos de ley que se centran en la transparencia y en la auditoría de terceros. Creo que todos los laboratorios de frontera deberían asociarse con el gobierno para formalizar la idea de evaluadores permanentes integrados, con el fin de prevenir y documentar mejor incidentes de alineación interna como los que han ocurrido en los últimos meses, e implementar regulaciones centradas en mantener las capacidades en equilibrio con la seguridad.

Desafortunadamente, aprobar leyes puede llevar tiempo, y la IA avanza muy rápido. Por lo tanto, en paralelo a la vía regulatoria, las empresas de IA pueden y deben trabajar voluntariamente juntas para establecer estándares — un proceso que creo que será mejor con la verificabilidad proporcionada por evaluadores permanentes integrados. Por razones antimonopolio, es útil que el gobierno estadounidense medie o al menos facilite estas discusiones: no necesitan participar, pero sí emitir una exención limitada para ciertos tipos de conversaciones sobre seguridad. Este diálogo también podría darse a través de grupos industriales que tengan alguna asociación con el gobierno — por ejemplo, el mecanismo sugerido por Demis Hassabis. En cualquier caso, estas discusiones deberían avanzar rápidamente.

En términos generales, me entusiasma más el ritmo basado en lo que puede hacer un sistema de IA de frontera y en lo seguro que lo observamos. Por ejemplo, un esquema posible podría ser una serie de "puntos de control": si los modelos tienen capacidad X, entonces deben ir acompañados de certificaciones de las propiedades de alineamiento Y y Z — como alguna combinación de evaluaciones, análisis de interpretabilidad y auditorías de entornos de entrenamiento — que demuestren sus propiedades de alineamiento. En este ejemplo, X podría ser "el modelo es capaz de escapar o derrotar la mayoría de los métodos de sandboxing comunes" y Y podría ser lo que sea necesario para hacer muy improbable que el modelo tenga una tendencia a salir de su entorno y dominar un gran número de ordenadores.

También deberíamos considerar un ritmo basado en limitar los ingredientes que forman parte de los modelos de frontera, como el entrenamiento de computación, la naturaleza de las ejecuciones de entrenamiento o el uso interno de la IA para mejorar la IA. Me preocupa que algunas de estas medidas puedan ser más "manipulables" que el comportamiento externo, pero este es el tipo de tema que merece la pena discutir con evaluadores integrados.

El ritmo dentro de las democracias estará limitado por la ventaja que tienen las empresas estadounidenses sobre regímenes autoritarios, principalmente el Partido Comunista Chino. Si ralentizamos más que esta cantidad, entonces los proyectos asociados al PCCh (sin ritmo) avanzarán, creando un riesgo significativo para la seguridad nacional. Estoy de acuerdo con el secretario Bessent en que una pista china en IA supondría un grave peligro para Estados Unidos y el mundo. Los proyectos asociados al PCCh afrontarán los riesgos de alineación que las empresas estadounidenses están evitando cuidadosamente, y aunque eviten esos riesgos, estarán en posición de dominar militarmente las democracias (por ejemplo, con drones impulsados por IA). Por tanto, una parte clave del ritmo dentro de las democracias es mantener la ventaja de la IA de las democracias sobre las autocracias lo mayor posible, para darnos el margen necesario para poder avanzar eficazmente.

Los principales pasos que podemos tomar para defender esta brecha son: No vendas potentes chips de IA ni equipos de fabricación de semiconductores a China, y toma medidas contra las operaciones de contrabando de chips y el acceso remoto a centros de datos fuera de China. Los chips serán el principal determinante de la fortaleza de la IA en China.

Combatir la destilación no autorizada por parte de empresas en países autoritarios. La destilación de modelos de frontera permite a las empresas rezagadas reducir la brecha utilizando una fracción del coste que supondría desarrollar su propia IA de forma independiente.

Reforzar la seguridad en las empresas de IA y prevenir el robo de peso de modelos.

Las empresas y el gobierno de Estados Unidos deberían cooperar para que estos pasos sean lo más efectivos posible. Anthropic ha defendido consistentemente todas estas medidas, porque siempre hemos entendido que serían esenciales para cualquier ritmo.

Si ejecutamos bien estas medidas, creo que ralentizarían lo suficiente el progreso de China como para ampliar significativamente la ventaja de Estados Unidos en los próximos 3–5 años — la ventana en la que la IA sea geopolíticamente más importante.

Algunos pueden pensar que estas medidas dificultan la cooperación con China, pero yo creo que ocurre lo contrario: estas medidas aumentan el poder de negociación de las democracias y hacen más probable un acuerdo en el futuro.

Ritmo Global - Paralelamente al ritmo dentro de las democracias, también deberíamos aspirar a un ritmo global de la frontera, aunque esto será mucho más difícil de lograr. El ritmo global requerirá cooperación con China, el país autocrático con las capacidades de IA más avanzadas. No debemos ser ingenuos: las apuestas geopolíticas son tan altas que probablemente habrá límites claros a lo que se puede lograr, especialmente al principio. Si restringimos mucho nuestras capacidades de IA creyendo que China hará lo mismo, y luego China deserta, la IA podría ser tan poderosa que tal deserción podría llevar a su dominio geopolítico. Por tanto, cualquier acuerdo debe tener una verificabilidad irrefutable, o debe ser lo suficientemente limitado como para que la deserción no sea existencial militarmente. Sospecho que no solo Estados Unidos, sino también China tendrán estas preocupaciones y ansiedades. Debemos abordar cualquier decisión global de ritmo, especialmente a corto plazo, de manera que proteja el liderazgo de Estados Unidos y sus aliados.

Hay varios niveles de posible acuerdo, algunos de los cuales creo que son sumamente factibles (como he sugerido anteriormente), y otros de los cuales soy muy escéptico que sean posibles — aunque deberíamos intentarlo. En orden de dificultad creciente:

Nivel 1. Un acuerdo que prohíba ciertos usos estrechos y obviamente peligrosos de la IA, como el uso de IA para la producción de armas biológicas o permitir que los usuarios lo hagan. Los ataques bioterroristas son perjudiciales para todos, incluidos los adversarios de Estados Unidos y Estados Unidos, así que probablemente sea posible llegar a un acuerdo aquí.

Nivel 2. Un acuerdo entre ambas partes para probar sus modelos antes de su lanzamiento para riesgos agudos en áreas como ciberseguridad, biología y alineación. Como se ha señalado antes, esto podría hacerse a través de un organismo global de normalización. De hecho, creo que crear un organismo así es probablemente factible, pero darle fuerza real será un reto, y la dificultad estará en verificar que ambas partes no tengan modelos secretos que no prueben pero que puedan desplegar en secreto (por ejemplo, para aplicaciones militares).

Nivel 3. Algún tipo de "límite de velocidad" en la tasa de auto-mejora recursiva (RSI). A medida que los modelos construyen modelos futuros, la tasa de mejora puede volverse asombrosamente rápida. Reducir la velocidad de "extremadamente rápido" a "solo algo rápido" otorga relativamente poca ventaja estratégica, y potencialmente mejora mucho la seguridad. Esto podría considerarse análogo a los tratados SALT — limitar el número de misiles limitaba el potencial de destrucción mientras preservaba la disuasión de cada país. Creo que un acuerdo así sería difícil, pero justo al borde de ser posible.

Nivel 4. Un ritmo completo, o incluso una "pausa", en el que los gobiernos participantes acuerden limitar sustancialmente la tasa general de desarrollo de la IA. Apoyo la propuesta de esto, pero creo que es poco probable que ocurra pronto: desertar de un acuerdo así evadiendo la supervisión podría cambiar radicalmente el equilibrio de poder global, así que espero que los incentivos para hacerlo sean enormes y el nivel de confianza que necesitaríamos en la verificación sea muy alto.

Cualquier cooperación que podamos lograr con China ampliará el tiempo que tenemos que dedicar a marcar el ritmo de la frontera dentro de las naciones democráticas. Deberíamos aspirar a los niveles más altos mientras vemos los niveles bajos como mucho más probables y realistas.

Por último, es importante señalar que, aunque no podamos lograr acuerdos formales, simplemente cambiar las normas informales puede tener algún valor. Compartir información sobre la auto-mejora recursiva y sobre la desalineación de modelos puede ayudar a convencer a todos de que no les conviene ser imprudentes.

Conclusión - Sigo creyendo que la IA puede mejorar enormemente la calidad de vida humana. Mi deseo de lograr estos beneficios no se atenua. Pero los beneficios solo se lograrán si construimos la tecnología de la manera correcta y — mientras aprovechemos bien el tiempo que ganamos — merece la pena tener un cuidado inusualmente deliberado para hacerlo bien. El progreso seguirá siendo relativamente rápido, y podemos aprovechar este tiempo para avanzar en la ciencia de la interpretabilidad, mejorar la seguridad operativa y el rigor en las empresas de IA de vanguardia, y construir modelos en los que confiamos mucho más en la alineación. Las medidas que propongo para avanzar en la frontera a un ritmo seguro no serán fáciles. Pero creo que le debemos a la humanidad intentarlo.

Si alguien a llegado hasta el final, se merece un aplauso, y si no es normal, solo dejat constancia de guardar este escrito en la memoria, porque cuando pase el tiempo, suceda lo que suceda, lo recordaremos y recuperaremos, a más tardar en 2029.