Emily M. Bender es profesora de lingüística computacional en la Universidad de Washington.corrine thrash
La profesora Emily M. Bender tiene una misión: quiere que sepamos que la aparente maravilla de ChatGPT es más que un loro. No cualquier loro, sino un “loro estocástico”. “Estocástico” significa que eliges combinaciones de palabras basadas en un cálculo de probabilidades, pero no entiendes nada. Es difícil chatear con ChatGPT o Bing y tener en cuenta que es un loro y solo un loro. Pero muchas cosas malas para Bender dependen de esa conciencia: “Estamos en un momento delicado”, dice. Y advierte: “Estamos interactuando con una nueva tecnología y el mundo entero necesita equilibrar rápidamente su alfabetización para descubrir cómo lidiar con ella”. Su mensaje, en pocas palabras, es este: Por favor, esta es una máquina que hace una cosa muy bien, pero nada más.
Bender, un lingüista computacional de la Universidad de Washington, se dio cuenta de que esto podría suceder ya en 2021, cuando publicó un famoso artículo académico sobre “los peligros de la repetición estocástica”: “No dijimos que iba a suceder. Dijimos que esto podría pasar y que debemos tratar de evitarlo. No fue una predicción. Fue una advertencia. Ahí solo hablamos un poco sobre lo peligroso que es hacer que algo se parezca a un humano. Es mejor no imitar el comportamiento humano. Porque puede dar problemas”, dijo Bender, de 49 años, a EL PAIS por videoconferencia. “Cuanta más gente sea consciente, más fácil será ver los grandes modelos de lenguaje como simples máquinas de síntesis de texto, y no como algo que genera pensamientos, ideas o sentimientos. Creo que [sus creadores] Quieren creer que es otra cosa”, agregó.
Esa falsa humanidad tiene muchos problemas: “Nos hará creer. y no se hace responsable. Tiene una tendencia a hacer que las cosas sucedan. Si muestra un texto que es cierto es por casualidad”, asegura. “Nuestras sociedades son un sistema de relaciones y creencias. Hay riesgos si empezamos a perder la fe que no tiene responsabilidad. Como individuos que interactuamos con él, debemos tener cuidado con lo que hacemos con su confianza. Las personas que hacen esto deberían dejar de hacerlo parecer humanos. No debería hablar en primera persona”, agregó.
terminador de bajo potencial
El trabajo de hacerlos más humanos probablemente no sea gratis. Sin él, la propaganda de ChatGPT habría sido más sobria: no habría dado la sensación de un exterminador potencial, de un amigo cauteloso, de un santo visionario. “Quieren crear algo que parezca más mágico de lo que es. Nos parece mágico que una máquina pueda ser tan humana, pero en realidad es una máquina que da la ilusión de ser humano”, dice Bender. “Si alguien está en el negocio de vender tecnología, cuanto más mágica parezca, más fácil será venderla”, agrega.
Advertisement
Timnit Gebru, coautor de Bender del artículo de Parrot e investigador despedido de Google por ese motivo, se lamentó en Twitter cuando el presidente de Microsoft admitió en un documental sobre ChatGPT que “no es una persona, es una pantalla”.
Si alguien está en el negocio de vender tecnología, cuanto más mágico suene, más fácil será vender”.
Sin embargo, la exageración no se debe solo a la compañía que hizo que el chatbot hablara como un ser humano. Hay aplicaciones de IA que crean imágenes y pronto videos y música. Es difícil no promover estos desarrollos, a pesar de que todos se basan en el mismo tipo de reconocimiento de patrones. Bender pide algo difícil para los medios y la forma en que se estructuran las redes sociales hoy: contexto. “Puedes hacer cosas nuevas y aún así no exagerar. Puedes preguntar: ¿Esto es arte de IA o es solo síntesis de imágenes? ¿Estás sintetizando imágenes o estás imaginando que el programa es un artista? Puedes hablar sobre tecnología de una manera eso pone a las personas en el centro Para contrarrestar la exageración, se trata de hablar sobre lo que realmente se está haciendo y quién está involucrado en su construcción, dice.
También hay que tener en cuenta que estos modelos se basan en una cantidad de datos inimaginable que no sería posible sin décadas de alimentar Internet con miles de millones de textos e imágenes. Esto tiene problemas obvios, según Bender: “Este enfoque de la tecnología del lenguaje se basa en tener datos a la escala de Internet. En términos de equidad entre idiomas, por ejemplo, este enfoque no se adaptará a todos los idiomas del mundo. “Pero también es un enfoque que básicamente se basa en el hecho de que tienes que lidiar con datos a escala de Internet que incluyen todo tipo de basura”.
Esa mierda no solo incluye racismo, nazismo o sexismo. También en las páginas serias, los hombres blancos ricos están sobrerrepresentados o las palabras asociadas con títulos ampliamente vistos como “Islam” o los países de los que proviene la inmigración a veces se pronuncian en Occidente. Esto está en el corazón de todos estos modelos: reeducarlos es una tarea extraordinaria y tal vez interminable.
los humanos no son
Parrot no solo ha hecho famoso a Bender. Sam Altman, fundador de OpenAI, creador de ChatGPT, ha tuiteado muchas veces que somos loros estocásticos. Quizás los humanos también reproduzcamos lo que escuchamos tras cálculos probabilísticos. Esta forma de socavar las capacidades humanas permite que la inteligencia percibida de las máquinas se infle, el siguiente paso para OpenAI y otras empresas en un campo que casi vive en una burbuja. En última instancia, esto le permitirá recaudar aún más dinero.
Advertisement
Bender dice: “El trabajo en inteligencia artificial está ligado a ver la inteligencia humana como algo simple que se puede cuantificar y las personas se pueden clasificar según su inteligencia”. Esta clasificación nos permite marcar hitos futuros para la IA: “Está la ‘inteligencia general artificial’, que no tiene una gran definición, pero es algo que se puede aprender de manera flexible. Y luego todavía está la ‘Superintendencia Artificial’, sobre la cual Escuché el otro día, y que debe ser aún más inteligente. Pero es todo imaginario”. El salto entre la IA que vemos hoy y una máquina que realmente piensa y siente sigue siendo extraordinario.
El 24 de febrero, Altman publicó una publicación titulada “Planificación para AGI”. [Inteligencia Artificial General] Y así sucesivamente”. Se trata de “garantizar que la inteligencia artificial general (sistemas de IA que generalmente son más inteligentes que los humanos) beneficie a toda la humanidad”. fue a twitter Preguntarse, entre otras cosas, quiénes son estas personas para decidir qué beneficiará a toda la humanidad.
Es asqueroso desde el principio. Parecen estar realmente en el negocio de desarrollar/dar forma a “AGI”. Y sienten que están posicionados para decidir qué “beneficia a toda la humanidad”. pic.twitter.com/AJxExcxDY3
– @emilymbender@dair-community.social en Mastodonte (@emilymbender) 26 de febrero de 2023
Esta actualización de ChatGPT le permite a Altman presentar potencialmente sus publicaciones de una manera casi realista. “Sam Altman realmente cree que puede construir una entidad inteligente autónoma. Para mantener esa creencia, tienes que tomar la tecnología existente y decir que sí, es bastante parecido a ese tipo de agente inteligente autónomo”. Lo cual me imagino. Creo que es doloroso. No sé si creen lo que dicen o si están siendo cínicos, pero suenan como si lo hicieran”, dice Bender.
Si se difunde la creencia de que las IA hacen más de lo que parecen, que son más inteligentes, más personas admitirán que se deslizan hacia otras áreas de toma de decisiones: “Si creemos que la verdadera inteligencia artificial existe, entonces también es más probable que creamos que seguramente podemos hacer sistemas de decisión automatizados que sean menos sesgados que los humanos, cuando en realidad no podemos”, dice Bender.
Advertisement
“Como un derrame de petróleo”
Una de las posibilidades más comentadas para estos modelos de texto es si reemplazarán a los motores de búsqueda. Microsoft ya lo está probando con Bing. Los diversos cambios que se han implementado en su modelo desde su llegada son testimonio de sus dificultades. A Bender le gusta compararlo con un “derrame de petróleo”: “Es una metáfora que espero que se mantenga. Una de las desventajas de estas máquinas de síntesis de texto es que pueden responder preguntas sobre las que la información no se va a verter en nuestro ecosistema de información de una manera que será difícil de detectar. Parece un derrame de petróleo: será difícil de limpiar. Cuando las empresas hablan de cómo están haciendo progresos constantes y están mejorando su precisión, es como si BP o Exxon dijeran , ‘Mira cuántos pájaros salvamos del aceite que les echamos’.
OpenAI quiere hablar sobre el futuro. Pero, en cambio, hablaré sobre cómo controlamos lo que acabamos de construir”.
Bender dice, mientras hablamos de ese futuro imposible, no estamos prestando atención al presente. “OpenAI quiere hablar sobre cómo nos aseguramos de que la IA sea beneficiosa para la humanidad y cómo la controlamos. Pero prefiero hablar sobre cómo controlamos lo que acabamos de crear y qué debemos hacer para que no lo haga”. No causar problemas hoy, en lugar de distraernos con lo que sucedería si tuviéramos estos agentes autónomos”, cree.
No ha perdido la esperanza de que llegue algún tipo de regulación, en parte debido al esfuerzo computacional que requieren estos modelos. “Se necesitan muchos recursos para poner en marcha una de estas cosas, lo que deja un poco más de margen para la regulación. Necesitamos una regulación sobre la transparencia. OpenAI no está hablando abiertamente al respecto. Espero que esto ayude a la gente a entender mejor”.
La ciencia ficción no es el único futuro
Bender a menudo escucha que, a pesar de tener una maestría en lingüística computacional, es una mujer enojada que se queja de la tecnología: “No me duele cuando la gente me dice eso porque sé que están equivocados. Sin embargo, también muestran una actitud de creer que hay un camino predeterminado que la ciencia y la tecnología nos deben llevar, y ese es el camino que hemos aprendido de la ciencia ficción. Esta es una forma autodestructiva de entender lo que es la ciencia. La ciencia es un grupo de personas que se expanden y exploran diferentes cosas y luego hablan entre sí, no personas que siguen un camino recto, tratando de ser los primeros en llegar al final.
Bender tiene un último mensaje para aquellos que creen que este camino será accesible y simple: “Lo que voy a decir puede ser sarcástico y simplista, pero tal vez solo estén esperando llegar a ese punto. Donde estos modelos están hartos con tantos datos que espontáneamente se vuelven conscientes en el momento que yo decido.” Por ahora, ese es el plan.
Advertisement
puedes seguir tecnologia del pais En Facebook Y Gorjeo o regístrate aquí para recibir nuestros periodico semanal,
El robo de móviles se ha convertido en una maldición que los fabricantes intentan combatir mediante el bloqueo remoto o sistemas de geolocalización. Hasta la fecha, los terminales tenían un único destino: el mercado de segunda mano, donde se vendían en portales de compra y venta.
Sin embargo, tras el robo de los terminales se revela un nuevo móvil: el acceso a las identidades digitales, y con ello, mucho perjuicio económico. Él Wall Street Journal recoge esta tendencia creciente en bares y cafés de Estados Unidos: la víctima es vigilada, observada (y en algunos casos, grabada) mientras ingresa la contraseña en la pantalla, y en un dispositivo de inspección es robada.
Número seis: una cerradura frágil, preludio de la pesadilla
La operación es muy sencilla y rentable para los ladrones, y su éxito radica en una serie de vulnerabilidades encadenadas. El primero de ellos, la comodidad humana: es mucho más fácil desbloquear un móvil introduciendo unas pocas cifras que hacerlo con varios caracteres formados por números y símbolos. La conciencia del usuario está tranquila pensando que es un sistema biométrico que protege su información -en caso de que el dispositivo esté en él-, pero todos los teléfonos móviles se desbloquean con un código si falla la biometría.
Advertisement
Y ahí es donde entra en juego el delicado equilibrio entre comodidad y seguridad. El PIN de cuatro dígitos te permite desbloquear la pantalla rápidamente y, por supuesto, es muy fácil de recordar. Especialmente si es la misma secuencia que se usa en cajeros automáticos, códigos de acceso a portales… Los humanos somos excepcionalmente pragmáticos y siempre tratamos de encontrar la ruta más corta entre dos puntos. En el caso de las contraseñas, sabiendo los riesgos que implica no utilizar combinaciones complejas, el cerebro sigue optando por los atajos ignorando este factor de riesgo.
De hecho, un estudio realizado por investigadores de la Universidad China de Zhejiang demostró que el cerebro se comporta de forma caprichosa a la hora de recordar (u olvidar) contraseñas: almacena en la memoria con mayor facilidad secuencias que no conocía. Especial interés por recordar. Es decir, si alguien, por ejemplo, trata de recordar una nueva contraseña (digamos 1564) y, caminando de regreso a casa, pregunta un número de portal (digamos, 1345), es necesario que recuerde el segundo antes que el primero sería más fácil .
La contraseña no debe ser cómoda, pero debe ser larga y compleja
“Una vez conocido el PIN utilizado para desbloquear el móvil, no solo el dispositivo tiene acceso a los contenidos, sino también algunas aplicaciones que utilizan este sistema de bloqueo como método de verificación de acceso. La mayoría de las aplicaciones bancarias lo tienen, por ejemplo”, explica el coordinador de Andro4all Cristian Collado. Así, el popular PIN es la última puerta por la que los atacantes pueden acceder a toda la información del propietario del móvil, incluidas las cuentas bancarias (si están configuradas en el móvil).
Es paradójico que el mismo fabricante que invierte en sofisticadas soluciones de desbloqueo biométrico permita romper toda esta seguridad con tan solo seis dígitos. “Nos apoyamos en toda la cadena de suministro”, explica Adrián Moreno, director de Cuadernos de Seguridad, “desde el productor hasta la empresa que nos lo vende; confiamos en los diseñadores, la empresa que escribe software Y en el programa antivirus”.
Pero es el usuario quien, en última instancia, elige entre comodidad y seguridad, prefiriendo posiblemente esta última. “Lo ideal es utilizar métodos biométricos -lectores de huella o reconocimiento facial- para desbloquear el móvil en lugares públicos”, recomienda Collado, “si esto no es posible, tener configurado un PIN de 6 o más dígitos. La contraseña es alfanumérica. combinación de letras, números y símbolos. El objetivo final es evitar que alguien espíe la actividad en la pantalla y proceda al robo del dispositivo.
Advertisement
Una vez que se comete la última ofensa, todo sucede muy rápido. Los delincuentes obtienen acceso al panel de control móvil en cuestión de minutos y cambian la contraseña de una cuenta de Google (si es un Android) o iCloud (si es un iPhone). ¿Con qué propósito? Para evitar que sea recuperada desde otro dispositivo por un lado, y para desactivar su geolocalización por otro.
qué hacer para protegerse
Joanna Stern, autora del informe en Wall Street Journal, destaca que su entrevistador encontró su iPhone robado en un bar de Nueva York; Apenas 3 minutos después, perdió el acceso a su cuenta de Apple y en menos de 24 horas vio desaparecer 10.000 dólares de sus fondos de inversión.
La buena noticia es que, dado que es un método tan obvio, la solución es igual de simple: dificultar al máximo la copia de la contraseña. En este sentido, los expertos proponen evitar inmediatamente cadenas simples de números (cuatro o seis caracteres) y en su lugar hacer que la contraseña sea lo más compleja posible. Idealmente, es mejor alargarlo e incluir caracteres especiales y casos mixtos.
Obviamente, al hacer la contraseña compleja, se pierde la agilidad y la mnemotecnia de introducir un PIN de unos pocos dígitos, pero es un peaje que hay que pagar por seguridad. Los expertos van más allá en sus recomendaciones: instan, en la medida de lo posible, a desvincular los códigos de desbloqueo de móviles con el acceso a determinadas cuentas. De esta forma, se mitigaría la segunda vulnerabilidad: permitir el acceso a cuentas con contenido hackeado usando la misma contraseña protegiendo la pantalla.
puedes seguir tecnologia del pais En Facebook Y Gorjeo o regístrate aquí para recibir nuestros periodico semanal,
Collapsed Signature Bank, que marcó la segunda quiebra bancaria más grande en la historia de los EE. UU. junto con otras dos entidades, se vendió a Flagstar Bank por alrededor de $ 3 mil millones, pero sin su negocio de criptomonedas.
La Corporación Federal de Seguros de Depósitos (FDIC) dijo en un comunicado que Flagstar Bank, una subsidiaria de New York Community Bancorp, Después de su colapso, llegó a un acuerdo para adquirir la mayor parte de Signature Bank.
ahora en su mayoría Los antiguos clientes de Signature se migrarán automáticamente a Flagstar BankY desde hoy serán atendidos en 40 sucursales de su antiguo banco.
La FDIC aclara que la propuesta presentada por Flagstar Bank Esto no incluyó los aproximadamente $4 mil millones en depósitos que formaban parte del negocio de banca digital de Signature Bank.
Advertisement
El dinero en criptomoneda seguirá estando en manos del ente regulador, ya que será el encargado de atender las solicitudes de los propietarios de estos activos digitales.
Como parte de la transacción de compra, se incluyeron $ 38,400 millones en activos, $ 25,000 millones en efectivo, $ 12,900 millones en deuda y 40 brazos previos a la firma.
Cambio de banco: ya no tan amigable con las criptomonedas
La transacción de compra inició “la transformación de un prestamista principalmente multifamiliar a un banco comercial diversificado de servicio completo”, dijo Thomas Cengemi, director ejecutivo de New York Community Bank.
Para Kangemi, la transformación que comenzó con la fusión entre New York Community y Flagstar ahora se está acelerando. Al mismo tiempo, espera que “estén en una mejor posición para lidiar con cualquier problema residual del mercado”.
Como CriptoNoticias informó anteriormente, algunas fuentes advirtieron que los reguladores están mostrando interés en comprar Signature Bank a los inversores, Dejar el negocio de las criptomonedas.
Advertisement
Posteriormente, un vocero de la FDIC negó que se estuviera implementando tal medida para las compras bancarias.
por firma Se había ganado el apodo del banco “amigable con las criptomonedas”Por lo tanto, muchas empresas de la región mantuvieron sus activos en esta unidad. Entre ellos estaba el intercambio Coinbase; Circle, emisor de la moneda estable USD Coin (USDC); Ola; y la Fundación Avalanche.
Antes de ser confiscado por las autoridades del estado de Nueva York, La criptomoneda de Signature representa una cuarta parte de los depósitos de los clientes, Sin embargo, muchos de ellos buscaron otras opciones. Por ejemplo, Circle eligió a Cross River Bank como uno de sus socios para retener y canjear USDC.
El gobernador de Florida, Ron DeSantis, cree que las CBDC disuaden la inversión.
Hay varios proyectos de ley que buscan prohibir o regular el dólar digital.
Ron DeSantis, gobernador de Florida y candidato presidencial republicano, ha declarado la guerra al desarrollo de la moneda digital del banco central de su país, también conocida como dólar digital, a través de un proyecto de ley.
DeSantis presentó una legislación para “proteger a los floridanos del uso de armas del sector financiero por parte de la administración Biden” a través de una moneda digital del banco central (CBDC), según un comunicado del gobernador conservador.
proyecto de ley quiere Prohibición del uso de dólares digitales o CBDC como dinero en el estado de Florida. Asimismo, promueve la creación de “salvaguardas” contra las monedas digitales emitidas por bancos centrales pertenecientes a naciones sancionadas por Estados Unidos.
Uno de los objetivos declarados es que otros estados, simpatizantes de las políticas de DeSantis, tomen una posición similar y establezcan estas prohibiciones dentro de sus respectivos códigos comerciales para “combatir este concepto en todo el país”.
Advertisement
A juicio del gobernador republicano, la existencia de una moneda digital tiene que ver con la “vigilancia y control de los ciudadanos” que “Sofocará la innovación”,
“Florida no se pondrá del lado de los planificadores centrales económicos; No adoptaremos políticas que amenacen la libertad económica y la seguridad personal”, explicó DeSantis.
La propuesta del candidato presidencial viola las medidas impulsadas por el presidente estadounidense Joe Biden en una orden ejecutiva que llama a la investigación y desarrollo de una moneda digital del banco central, según informó Cryptonoticia en marzo pasado.
Hay más billetes que dólares digitales
En definitiva, hace unos días, tras el colapso de varios bancos en Estados Unidos, el gobierno de Biden, a través de la Reserva Federal (Fed), ordenó el lanzamiento del servicio FedNow, previsto para el próximo mes de julio. esta plataforma Te permitirá realizar pagos en tiempo real las 24 horastodos los días del año.
Esta sería una oportunidad para implementar un dólar digital en Estados Unidos, tal como DeSantis quiere evitar en Florida.
Advertisement
En este sentido, DeSantis no es solo una propuesta de ley para regular las monedas digitales. En febrero pasado, su copatrocinador, el senador Tom Emmer, presentó una legislación destinada a proteger la privacidad financiera de los estadounidenses al evitar que la Fed desarrolle un dólar digital sin la revisión y aprobación previa del Congreso.
Otro caso es el del senador Ted Cruz, también republicano, quien en enero del año pasado propuso un proyecto de leyImpedir que la Reserva Federal desarrolle una moneda digitalque “puede ser utilizado por el gobierno federal como una herramienta de control financiero”.
Las CBDC o monedas digitales del banco central son la respuesta de los estados al crecimiento y popularidad de bitcoin (BTC). Para el año 2030, se estima que los gobiernos del mundo aprovecharán las monedas digitales para promover la inclusión financiera y el control de los pagos digitales, con bitcoin y su ecosistema también tomando más de USD 200 mil millones en transacciones por año.
Usamos cookies en nuestro sitio web para brindarle la experiencia más relevante recordando sus preferencias y visitas repetidas. Al hacer clic en "Aceptar", acepta el uso de TODAS las cookies.
This website uses cookies to improve your experience while you navigate through the website. Out of these, the cookies that are categorized as necessary are stored on your browser as they are essential for the working of basic functionalities of the website. We also use third-party cookies that help us analyze and understand how you use this website. These cookies will be stored in your browser only with your consent. You also have the option to opt-out of these cookies. But opting out of some of these cookies may affect your browsing experience.
Necessary cookies are absolutely essential for the website to function properly. This category only includes cookies that ensures basic functionalities and security features of the website. These cookies do not store any personal information.
Any cookies that may not be particularly necessary for the website to function and is used specifically to collect user personal data via analytics, ads, other embedded contents are termed as non-necessary cookies. It is mandatory to procure user consent prior to running these cookies on your website.
Espectaculos2 meses ago
Espectaculos2 meses ago
Espectaculos2 meses ago
Espectaculos2 meses ago
Realeza2 meses ago