Información básica (sujeta al producto real)

Acerca del autor:

Wu Jun es académico, inversor y experto en inteligencia artificial, reconocimiento de voz y búsquedas en internet. Se graduó de la Universidad de Tsinghua y la Universidad Johns Hopkins en Estados Unidos. Actualmente es socio fundador de Amoy Capital, profesor visitante en la Universidad Jiao Tong de Shanghái y director de la Escuela de Ingeniería de la Universidad Johns Hopkins.
El Dr. Wu Jun trabajó en Google y Tencent como investigador y vicepresidente, respectivamente. En Google, él y sus colegas fueron pioneros en la investigación antifraude en búsquedas, establecieron departamentos de producto en chino, japonés y coreano, diseñaron los algoritmos de búsqueda de Google en chino, japonés y coreano, dirigieron el procesamiento del lenguaje natural y la respuesta automática a preguntas de Google, entre otros proyectos de investigación, y posee casi 20 patentes de invención en Estados Unidos. En Tencent, fue responsable de proyectos como búsquedas, publicidad en búsquedas y Street View Maps. Como inversor de capital riesgo, invirtió con éxito en 150 empresas de alta tecnología en Silicon Valley y China. El Dr. Wu Jun realiza investigaciones exhaustivas sobre la industria tecnológica y es un experto en la interpretación del sector de las TI en Silicon Valley hoy en día.
El Dr. Wu Jun ha escrito numerosos libros superventas, entre ellos "La belleza de las matemáticas", "El camino a la universidad", "La luz de la civilización", "La era de la inteligencia", "Perspectivas, actitudes" y "Una historia general de la ciencia y la tecnología". Ha ganado numerosos premios literarios, como el Premio Wenjin, el Premio al Buen Libro de China y el Premio de Publicaciones de China.

Puntos clave:

Hace ocho años, la serie de artículos "La Belleza de las Matemáticas" se publicó originalmente en Google Blackboard, recibiendo millones de visitas y excelentes elogios de los lectores. Los lectores comentaron que, tras leer "La Belleza de las Matemáticas", los conocimientos matemáticos adquiridos en la universidad, como las cadenas de Markov, el cálculo matricial e incluso la función coseno, les resultaron muy familiares y vívidos, y que el lenguaje natural y el procesamiento de la información les resultaron muy interesantes.
Al crear el libro, el autor reescribió casi todos los artículos para que los profundos principios matemáticos fueran más comprensibles y permitieran a los lectores no profesionales apreciar el encanto de las matemáticas. Lo que los lectores aprenden a través de ejemplos específicos es la manera de abordar los problemas: cómo simplificar, cómo usar las matemáticas para resolver problemas de ingeniería, cómo pensar de forma innovadora e innovar constantemente.
Esta edición ganó el octavo Premio Wenjin del Libro de la biblioteca. La segunda edición añadió contenido sobre big data y aprendizaje automático. La tercera edición añadió tres capítulos nuevos, que presentan tres temas de gran actualidad: los fundamentos matemáticos de la cadena de bloques, los principios de la comunicación cuántica y los límites matemáticos de la inteligencia artificial.

......

Tabla de contenido:

Tabla de contenido
I Prefacio a la segunda edición
Prefacio a la Edición III
VI Prefacio a la Tercera Edición

1 Capítulo 1 Texto y lenguaje vs. números e información
La escritura, el lenguaje y las matemáticas siempre han tenido similitudes desde sus inicios. Aunque su desarrollo en un momento dado tomó rumbos diferentes, al final lograron converger.
1 Información
2 Texto y números
3 Las matemáticas detrás de las palabras y el lenguaje

Capítulo 2 Procesamiento del lenguaje natural: de las reglas a las estadísticas
Los seres humanos han recorrido un largo camino en su comprensión del lenguaje natural. Las primeras investigaciones se centraron en métodos basados en reglas, que resolvían algunos problemas sencillos, pero no lograban hacer práctica la comprensión del lenguaje natural. No fue hasta más de 20 años después que se empezaron a probar métodos estadísticos para el procesamiento del lenguaje natural, lo que condujo a avances y productos prácticos.
1. Inteligencia de las máquinas
2 De las reglas a las estadísticas

Capítulo 3 Modelos de lenguaje estadístico
Los modelos de lenguaje estadístico son la base del procesamiento del lenguaje natural y se utilizan ampliamente en la traducción automática, el reconocimiento de voz, el reconocimiento de letra impresa o manuscrita, la corrección ortográfica, la entrada de caracteres chinos y la búsqueda bibliográfica.
1 Uso de métodos matemáticos para describir las reglas del lenguaje
2 Lectura adicional: Consejos de ingeniería para modelos de lenguaje estadístico

41 Capítulo 4: Participios
La segmentación de palabras chinas es la base del procesamiento de la información china. Sin embargo, ha sufrido algunas modificaciones. Actualmente, este problema se ha resuelto básicamente mediante modelos estadísticos del lenguaje.
1. Evolución de los métodos de segmentación de palabras chinas
2 Lectura adicional: Cómo medir los resultados de la segmentación de palabras

50 Capítulo 5 Modelo oculto de Markov
Los modelos ocultos de Markov se utilizaron inicialmente en el campo de las comunicaciones y posteriormente se extendieron al procesamiento del habla y el lenguaje, convirtiéndose en un puente entre el procesamiento del lenguaje natural y las comunicaciones. Al mismo tiempo, los modelos ocultos de Markov son también una de las principales herramientas para el aprendizaje automático.
1. Modelo de comunicación
2 Modelo oculto de Markov
3 Lectura adicional: Entrenamiento del modelo oculto de Markov

60 Capítulo 6 La medición y el uso de la información
La información se puede cuantificar y medir. La entropía de la información no es solo una medida cuantitativa de la información, sino también la base de toda la teoría de la información. Tiene una gran importancia para la comunicación, la compresión de datos y el procesamiento del lenguaje natural.
1 Entropía de la información
2 El papel de la información
3 Información mutua
4 Lectura adicional: Entropía relativa

72 Capítulo 7 Jarnik y el procesamiento del lenguaje moderno
Como fundador del procesamiento del lenguaje natural moderno, el profesor Jarnik aplicó con éxito principios matemáticos al campo del procesamiento del lenguaje natural, y su vida está llena de leyendas.
1 Vida temprana
2 De Watergate a Monica Lewinsky
3 Un milagro de un anciano

Capítulo 8 La belleza de la simplicidad - Álgebra booleana y motores de búsqueda
Aunque simple, el álgebra de Boole es la base de la informática. No solo combina lógica y matemáticas en una sola, sino que también nos brinda una perspectiva completamente nueva del mundo y marca el comienzo de la era digital.
1 Álgebra de Boole
2 Índice

89 Capítulo 9 Teoría de grafos y rastreadores web
Antes de crear un índice, un motor de búsqueda de internet necesita usar un programa para descargar automáticamente todas las páginas web al servidor. Este programa se denomina rastreador web y está escrito con base en los principios de la teoría de grafos en matemáticas discretas.
1 Teoría de grafos
2 rastreadores web
3 Lecturas adicionales: Dos explicaciones adicionales sobre la teoría de grafos

Capítulo 98 0 PageRank——La tecnología de clasificación de páginas web mediante votación democrática de Google
PageRank es la característica estrella de los primeros Google. Su aparición ha mejorado enormemente la calidad de las búsquedas en páginas web. Su principio fundamental es la operación matricial de la teoría de grafos y el álgebra lineal.
1 Principio del algoritmo PageRank
2 Lectura adicional: Cómo se calcula el PageRank

104 Capítulo 1 Cómo determinar la relevancia de una página web para una consulta
Determinar la relevancia de una página web para una consulta es fundamental en las búsquedas web, y determinar la importancia de cada palabra clave es clave. TF-IDF es una medida común de la importancia de las palabras clave, cuyo principio subyacente es la teoría de la información.
1 Medición científica del peso de las palabras clave de búsqueda TF-IDF
2 Lectura adicional: Base de la teoría de la información de TF-IDF

111 Capítulo 2 Máquinas de estados finitos y programación dinámica: tecnologías centrales de mapas y búsqueda local
Las máquinas de estados finitos y la programación dinámica se utilizan en mapas y búsquedas locales. Estas dos tecnologías son herramientas para la inteligencia artificial y el aprendizaje automático, y sus aplicaciones son extensas, incluyendo el reconocimiento de voz, la corrección ortográfica y gramatical, el método de entrada pinyin, el control industrial y el análisis de secuencias biológicas.
1 Análisis de direcciones y máquina de estados finitos
2 Navegación y planificación dinámica
3 Lectura adicional: Sensor de estados finitos

121 Capítulo 3 Diseñador de Google AK-47 - Dr. Amit Singh
El AK-47 es el arma ligera más famosa porque nunca se atasca, no se daña fácilmente, se puede usar en cualquier entorno, es confiable, grande y fácil de usar. Los productos de Google están diseñados según estos principios.

127 Capítulo 4 La ley de los cosenos y la clasificación de las noticias
Aunque las computadoras no pueden leer noticias, sí pueden clasificarlas con precisión. Su herramienta matemática es la aparentemente irrelevante ley de los cosenos.
1 Vector de características de las noticias
2 Medición de distancia vectorial
3 Lectura adicional: Consejos para calcular el coseno vectorial

136 Capítulo 5 Operaciones matriciales y dos problemas de clasificación en el procesamiento de texto
Ya sea la agrupación de vocabulario o la clasificación de textos, se puede lograr mediante la descomposición en valores singulares de matrices en álgebra lineal. De esta manera, el problema del procesamiento del lenguaje natural se convierte en un problema matemático.
1 Matriz de texto y vocabulario
2 Lecturas adicionales: Métodos de descomposición en valores singulares y escenarios de aplicación

142 Capítulo 6 Huella de información y su aplicación
Todo en el mundo tiene una característica que lo identifica, al igual que la información. Cada pieza de información tiene su propia huella digital, y la información diferente se puede distinguir por esta huella.
1 Huella de información
2 Propósito de la Huella Informativa
3 Lectura adicional: Repetibilidad y similitud de las huellas dactilares de información

Capítulo 153: Reflexiones sobre la serie de televisión "El Cálculo Secreto": Análisis de los principios matemáticos de la criptografía.
La criptografía se basa en la teoría de la información y las matemáticas. Sin la guía de la teoría de la información, las contraseñas son fáciles de descifrar. Solo cuando la teoría de la información se utiliza ampliamente en criptografía, las contraseñas se vuelven verdaderamente seguras.
1 La era espontánea de la criptografía
2 La criptografía en la era de la teoría de la información

162 Capítulo 8 No todo lo que brilla es oro: debate sobre la lucha contra las trampas en los motores de búsqueda y la cuestión del sexo de los resultados de búsqueda
No todo lo que reluce es oro, y las páginas web que ocupan un lugar destacado en los motores de búsqueda no son necesariamente útiles. El principio de eliminar estas páginas engañosas es el mismo que el de filtrar el ruido en la comunicación. Esto demuestra que muchos principios del procesamiento de la información y la comunicación están interrelacionados.
1 Motor de búsqueda anti-trampas
2 Sexo de los resultados de búsqueda

171 Capítulo 9 La importancia de los modelos matemáticos
El modelo matemático correcto es crucial en ciencia e ingeniería, y el camino para encontrarlo suele ser tortuoso. El modelo correcto suele tener una forma simple.

179 Capítulo 20 No pongas todos tus huevos en una sola canasta - Hablemos del modelo de entropía
El modelo de entropía es un modelo matemático. Puede integrar diversa información en un modelo unificado y tiene una amplia gama de aplicaciones en el procesamiento de información y el aprendizaje automático. Es simple y atractivo en su forma, pero requiere una sólida base matemática y excelentes habilidades para su implementación.
1 Principio de entropía y modelo de entropía
2 Lectura adicional: Entrenamiento del modelo de entropía

Capítulo 21 Principios matemáticos del método de entrada pinyin
El proceso de introducción de caracteres chinos es en sí mismo una comunicación entre personas y computadoras. Un buen método de entrada seguirá, consciente o inconscientemente, el modelo matemático de la comunicación. Por supuesto, el método de entrada que se cree debe basarse conscientemente en la teoría de la información.
1 Método de entrada y codificación
¿Cuántas teclas se necesitan para introducir un carácter chino? Hablando del teorema de Shannon
3 Algoritmo para convertir pinyin a caracteres chinos
4 Lectura adicional: Modelo de lenguaje personalizado

197 Capítulo 22 El padrino del procesamiento del lenguaje natural Marcus y sus discípulos
El profesor Mickey Marcus, de la Universidad de Pensilvania, ha realizado importantes contribuciones a la transformación del procesamiento del lenguaje natural, de un método de investigación basado en reglas a un método de investigación estadística. Creó el corpus LCD, ampliamente utilizado en el ámbito académico, y capacitó a un gran número de élites.
1 El padrino Marcus
2 élites de la Universidad de Pensilvania

204 Capítulo 23 Filtro Bloom
En la vida diaria, a menudo necesitamos determinar si un elemento pertenece a un conjunto. El filtro Bloom es un método matemático empleado en ingeniería informática para resolver este problema.
herramienta.
1 Principio del filtro Bloom
2 Lectura adicional: Problema de identificación errónea del filtro Bloom

209 Capítulo 24 Extensión de cadenas de Markov - Redes bayesianas
La red bayesiana es un grafo dirigido ponderado, una extensión de la cadena de Markov. Desde una perspectiva epistemológica, la red bayesiana supera las restricciones lineales mecánicas de la cadena de Markov y puede unificar cualquier evento relacionado bajo su marco. Se utiliza ampliamente en bioestadística, procesamiento de imágenes, sistemas de apoyo a la toma de decisiones y teoría de juegos.
1 Red bayesiana
2 Aplicación de la red bayesiana en la clasificación de palabras
3 Lectura adicional: Entrenamiento de redes bayesianas

217 Capítulo 25 Campos aleatorios condicionales, análisis gramatical y otros
Los campos aleatorios condicionales son un modelo eficaz para calcular distribuciones de probabilidad conjunta, mientras que el análisis gramatical de oraciones parece ser algo que los profesores de inglés enseñan en sus clases. ¿Cuál es la conexión entre ambos?
1. Análisis gramatical: la evolución de los algoritmos informáticos
2 campos aleatorios condicionales
3 Aplicaciones de campos aleatorios condicionales en otros campos

227 Capítulo 26 Viterbi y su algoritmo de Viterbi
El algoritmo de Viterbi es un algoritmo utilizado frecuentemente en las comunicaciones digitales modernas y también es un algoritmo de decodificación utilizado en muchas aplicaciones de procesamiento del lenguaje natural.
De hecho, Viterbi es uno de los científicos que ha tenido una gran influencia en nuestras vidas, porque el estándar de comunicación móvil 3G basado en CDMA fue desarrollado principalmente por Qualcomm, que él e Irwin Jacob fundaron.
1 Algoritmo de Viterbi
2 Tecnología CDMA: la base de las comunicaciones móviles 3G

238 Capítulo 27 El algoritmo de Dios - Algoritmo de expectativa
Con datos de entrenamiento, una función definida, el algoritmo EM y la computadora iterada varias veces, se puede obtener el modelo requerido. Esto es realmente maravilloso, y puede haber sido diseñado deliberadamente por el Creador; por eso lo llamo el algoritmo de Dios.
1 Clasificación autoconvergente del texto
2 Lecturas adicionales: Expectativa y necesidad de convergencia

244 Capítulo 28 Regresión logística y publicidad en búsquedas
El modelo de regresión logística es un modelo exponencial que combina diferentes factores que afectan la probabilidad. No solo desempeña un papel importante en la publicidad en buscadores, sino que también se utiliza ampliamente en el procesamiento de información y la bioestadística.
1 Desarrollo de la publicidad de búsqueda
2 Modelo de regresión logística

249 Capítulo 29 La base del algoritmo Defeat-One-Break-All y Google Cloud Computing
El principio de MapReduce, una herramienta importante en la misteriosa computación en la nube de Google, es el algoritmo de "descomponer uno a uno", comúnmente utilizado en algoritmos informáticos. Su principio es muy simple: descomponer un problema complejo en muchos problemas pequeños y resolverlos por separado, para luego combinar las soluciones de estos problemas en la solución del problema original. Esto demuestra que los métodos ampliamente utilizados en la vida real y verdaderamente útiles suelen ser simples y directos.
1 El principio del algoritmo divide y vencerás
2 De los algoritmos de dividir y vencer a MapRece

254 Capítulo 30 Google Brain y redes neuronales artificiales
Google Brain no es un cerebro capaz de pensar en todo, sino una red neuronal artificial con una gran capacidad de cálculo. Por lo tanto, en lugar de decir que Google Brain es muy inteligente, es mejor decir que tiene una gran capacidad de cálculo. Sin embargo, desde otra perspectiva, con la mejora continua de la capacidad de procesamiento, métodos matemáticos simples con una gran cantidad de cálculos a veces pueden resolver problemas muy complejos.
1 Redes neuronales artificiales
2 Entrenamiento de la red neuronal artificial
3 Relación entre redes neuronales artificiales y redes bayesianas
4 Lectura adicional: Google Brain

Capítulo 31 Fundamentos matemáticos de la cadena de bloques: Principio de la criptografía de curva elíptica
Hilbert afirmó: «No podemos dominar una ciencia natural hasta que podamos desmantelar y revelar por completo su núcleo matemático». La base de la criptomoneda, representada por Bitcoin, son los algoritmos matemáticos. Solo comprendiendo el núcleo matemático de la criptomoneda podemos comprender su esencia.
1. La belleza de la asimetría y la opacidad
2 Principios de la criptografía de curva elíptica

282 Capítulo 32 El poder del Big Data: Hablando sobre la importancia de los datos
Si la industria de TI se ha desarrollado según la Ley de Moore en los últimos 40 años, en los próximos 20 años la fuerza impulsora para su desarrollo continuo provendrá de los datos.
1. Importancia de los datos
2 Estadística y tecnología de la información
3 ¿Por qué necesitamos big data?

Capítulo 33 Los beneficios de la aleatoriedad: las matemáticas de la distribución de claves cuánticas
La gente siempre prefiere la certeza a la aleatoriedad. Sin embargo, el paso de la comprensión de las leyes de la certeza a la comprensión de las leyes de la aleatoriedad es precisamente el símbolo del progreso de las matemáticas modernas. La comunicación cuántica se basa en la comprensión de las leyes de la aleatoriedad.
1 Utilización de la dirección de polarización de los cuantos (láser) para transmitir información
2 Utilizar la aleatoriedad para garantizar la seguridad de la información

312 Capítulo 34 Los límites de las matemáticas: el décimo problema de Hilbert y los límites de la inteligencia de las máquinas
Solo un pequeño número de problemas en el mundo son matemáticos, y solo un número muy reducido de ellos tiene solución. Entre estos problemas, muy pocos han encontrado algoritmos correspondientes. Por lo tanto, las matemáticas no son perfectas, y necesitamos comprender dónde están sus límites.
1 Turing define los límites de los problemas computables por computadora
2 Hilbert define los límites de los problemas matemáticos solucionables
3 Lectura adicional: Acerca de la máquina de Turing

Apéndice 323 Complejidad computacional
327 Posdata a la tercera edición
333 Índice

......

Reflejos: