Vamos a suponer que la función $$y=a^x$$ es derivable (en un futuro lo comprobaré pero por hoy pensaremos que es cierto) donde $$a\in \mathbb{R}\backslash \{0\}$$
Entonces como la función es derivable, por la definición de derivada
y'= $$\underset{h\to 0}{\text{Lim}} \frac{f(x+h)-f(x)}{h}$$, es decir
y'= $$\underset{h\to 0}{\text{Lim}} \frac{a^{x+h}-a^x}{h}$$
Factorizando $$a^x$$ se tiene
y'= $$\underset{h\to 0}{\text{Lim}} \frac{a^x \left(a^h-1\right)}{h}$$
Usando algebra de límites
y'= $$a^x\left(\underset{h\to 0}{\text{Lim}} \frac{ a^h-1}{h}\right)$$
Y como este límite existe por hipótesis, llamaremos $$k=\underset{h\to 0}{\text{Lim}} \frac{ a^h-1}{h}$$
entonces
y'=ky
Lo que significa que la derivada es proporcional a la función original.
Ahora trataremos de encontrar un valor de a para el cuál k=1 y asi y'=y
Como $$k=\underset{h\to 0}{\text{Lim}} \frac{ a^h-1}{h}$$
Entonces $$\underset{h\to 0}{\text{Lim}} \frac{ a^h-1}{h}=1$$
Usando algebra de límites
$$\frac{ \underset{h\to 0}{\text{Lim}}a^h-\underset{h\to 0}{\text{Lim}}1}{\underset{h\to 0}{\text{Lim}}h}=1$$
Despejando $$a^h$$
$$ \underset{h\to 0}{\text{Lim}}a^h=\underset{h\to 0}{\text{Lim}}1+\underset{h\to 0}{\text{Lim}}h$$
$$\underset{h\to 0}{\text{Lim}}a^h=\underset{h\to 0}{\text{Lim}}(1+h)$$
Aplicando la raiz h-esima de ambos lados
$$ \underset{h\to 0}{\text{Lim}}a=\underset{h\to 0}{\text{Lim}}(1+h)^{\frac{1}{h}}$$
Como a es una constante, entonces su límite es a, es decir,
$$a=\underset{h\to 0}{\text{Lim}}(1+h)^{\frac{1}{h}}$$
Ahora haremos un cambio de variable
$$n=\frac{1}{h}$$ y cuando $$h\to 0$$, $$n\to \infty $$
Sustituyendo
$$a=\underset{n\to \infty }{\text{Lim}}\left(1+\frac{1}{n}\right)^n$$
Y como vimos en el post anterior$$a=e$$
Asi $$y=e^x$$ = y'