Álgebra lineal para Deep Learning

De escalares a PCA · Capítulo 2 + laboratorios reproducibles en Google Colab

Juan Sebastian Laverde

2026-01-01

La pregunta que guía la clase

¿Cómo convierte una computadora números, imágenes y texto en objetos matemáticos que puede procesar un modelo de IA?

Datos reales

→

Números

→

Tensores

→

Operaciones

→

Modelo de IA

No comenzar con fórmulas. Preguntar al grupo: “¿Qué ve una computadora cuando le mostramos una foto?”. Llevarlos a la idea de representación numérica.

Objetivos de aprendizaje

Al terminar, el grupo podrá:

1. Reconocer escalar, vector, matriz y tensor a partir de datos reales.
2. Interpretar shape, ndim, batch y canales.
3. Entender por qué la multiplicación matricial aparece en redes neuronales.
4. Explicar de forma intuitiva inversa, rango, normas, autovectores, SVD y PCA.
5. Replicar cada apartado 2.1–2.12 en Google Colab.
6. Mover tensores entre NumPy, TensorFlow y PyTorch, incluyendo CPU/GPU.

Ruta de 3 horas

45 min

2.1–2.4 · objetos, productos, inversa, span

35 min

2.5–2.7 · normas, matrices especiales, eigen

45 min

2.8–2.12 · SVD, pseudoinversa, traza, determinante, PCA

35 min

Colab · datasets + frameworks + CPU/GPU

+ 20 min distribuidos en preguntas, transiciones y una pausa corta.

2.1 Escalares, vectores, matrices y tensores

Escalares

Escalares

Un escalar es la forma más simple de dato: un único valor numérico o simbólico. Puede representar una constante o una variable univariante.

En aprendizaje automático, normalmente trabajamos con escalares reales:

\[ a \in \mathbb{R} \]

Representa un solo valor

No tiene dimensiones ni dirección

Puede ser real o complejo

Aunque parecen simples, los escalares son fundamentales: muchos hiperparámetros de un modelo, como la tasa de aprendizaje \(\lambda\), el número de épocas o un umbral, suelen expresarse como valores escalares.

5

🌡️

24°C

λ

= 0.01

x

= 3.5

Un escalar = un solo valor

Vectores

Matrices

Vectores

Cuatro objetos, una misma idea

Objeto	Explicación simple	Ejemplo de datos	Shape típica	Dimensión / rango del tensor
Escalar	un número	edad	()	Tensor 0D
Vector	lista ordenada	una persona	(4,)	Tensor 1D
Matriz	tabla 2D	100 personas × 4 variables	(100, 4)	Tensor 2D
Tensor 3D	arreglo con 3 ejes	imagen RGB	(224, 224, 3)	Tensor 3D
Tensor 4D	arreglo con 4 ejes	lote de imágenes RGB	(32, 224, 224, 3)	Tensor 4D
Tensor 5D	arreglo con 5 ejes	lote de videos	(8, 30, 224, 224, 3)	Tensor 5D
Tensor 6D	arreglo con 6 ejes	lote de secuencias de video	(4, 10, 30, 224, 224, 3)	Tensor 6D

Evitar decir que tensor “siempre significa 3D”.

En frameworks modernos, tensor es el término general para arreglos n-dimensionales.

Un escalar puede verse como un tensor de rango 0.

Explicar la progresión: - Escalar → tensor 0D - Vector → tensor 1D - Matriz → tensor 2D - Imagen RGB → tensor 3D - Lote de imágenes → tensor 4D - Video → tensor 4D - Lote de videos → tensor 5D

Broadcasting

Abrir laboratorio 2.1 en Colab

2.2 Multiplicación de Matrices y Vectores

Abrir laboratorio 2.2

2.3 Matrices identidad e inversa

Abrir laboratorio 2.3

2.4 Dependencia lineal y span

Abrir laboratorio 2.4

2.5 Normas

Abrir laboratorio 2.5

2.6 Tipos especiales de matrices y vectores

Abrir laboratorio 2.6

2.7 Descomposición en autovalores (Eigendecomposition)

Abrir laboratorio 2.7

2.8 Descomposición en valores singulares (SVD)

Abrir laboratorio 2.8

2.9 Pseudoinversa de Moore–Penrose

Abrir laboratorio 2.9

2.10 El Operador Traza (Trace Operator)

Abrir laboratorio 2.10

2.11 Determinante

Abrir laboratorio 2.11

2.12 Ejemplo: Principal Components Analysis (PCA)

Abrir laboratorio 2.12

El álgebra no cambia; cambia dónde se ejecuta

               misma operación
                    A @ B
                      │
        ┌─────────────┼─────────────┐
        ↓             ↓             ↓
      NumPy      TensorFlow      PyTorch
       CPU        CPU / GPU       CPU / GPU

Repositorio y laboratorios

Estructura preparada para GitHub Pages:

linear-algebra-deep-learning/
├── en/
│   ├── slides/
│   └── exercises/
├── es/
│   ├── slides/
│   └── exercises/
├── shared/
├── _quarto.yml
└── .github/workflows/publish.yml

URL prevista:

https://laverde97.github.io/linear-algebra-deep-learning/

Fuentes y créditos

• Goodfellow, I., Bengio, Y. & Courville, A. Deep Learning, Chapter 2: Linear Algebra. MIT Press (Goodfellow et al. 2016). https://www.deeplearningbook.org/contents/linear_algebra.html
• Quarto RevealJS documentation: https://quarto.org/docs/presentations/revealjs/
• Quarto GitHub Pages publishing: https://quarto.org/docs/publishing/github-pages.html
• MNIST via TensorFlow/Keras (LeCun et al. 1998).
• IMDB Reviews via TensorFlow/Keras (Maas et al. 2011).
• ImageNet-v2 documentation via TensorFlow Datasets (Recht et al. 2019); for the live class the notebook uses a lightweight ImageNet-format demonstration and leaves ImageNet-v2 as optional due to download size.

Contenido pedagógico original basado en los conceptos del capítulo; no reproduce el texto completo del libro.

La idea para llevarse

Deep learning trabaja con representaciones. El álgebra lineal nos da el lenguaje para describirlas, transformarlas, medirlas y comprimirlas.

Entender

→

Ejecutar

→

Visualizar

→

Conectar con IA

Goodfellow, Ian, Yoshua Bengio, and Aaron Courville. 2016. Deep Learning. MIT Press. https://www.deeplearningbook.org/.

LeCun, Yann, Leon Bottou, Yoshua Bengio, and Patrick Haffner. 1998. “Gradient-Based Learning Applied to Document Recognition.” Proceedings of the IEEE 86 (11): 2278–324.

Maas, Andrew L., Raymond E. Daly, Peter T. Pham, Dan Huang, Andrew Y. Ng, and Christopher Potts. 2011. “Learning Word Vectors for Sentiment Analysis.” Proceedings of ACL.

Recht, Benjamin, Rebecca Roelofs, Ludwig Schmidt, and Vaishaal Shankar. 2019. “Do ImageNet Classifiers Generalize to ImageNet?” International Conference on Machine Learning.