¿Funcionaría este circuito en AMS1117?

No es correcto.

Primero: imagina que conectas solo 2,8k de 12V a GND. I = U / R = 12V / 2800 Ohm = 0,00428 A = 4mA. Ninguna corriente superior a esa se obtendrá de 12V.

Puede conectar el 1117 directamente a 12V. Disipará (12V-3,3V) * 0,8A Watts. 6,96W lo hará funcionar en caliente.

Puede agregar una resistencia de potencia frente al regulador (de 12 V a la entrada del regulador). Si quisiera, por ejemplo, bajar 12V a 5V primero (caída de 7V) y luego regular. El valor de la resistencia sería R = U / I = 7V / 0,8A = 8,75 Ohms. A 0,8A, la resistencia se disiparía P = I ^ 2 * R = 5,6 W. Debería elegir una resistencia de potencia con una potencia más alta que esa.

Al final, tienes que disipar esos ~ 7 vatios en algún lugar (ya sea en el regulador o en la resistencia de potencia) a menos que uses un regulador de conmutación.

No, no funcionará incluso con carga cero, y mucho menos con 800mA

El regulador necesita 5 mA típicos (11 mA máximo) Iq.

El regulador cae a 1.1V típico (1.3V máximo), un poco menos a corrientes más bajas.

Entonces, si el regulador cae a 1.1V, necesitamos 4.4V. Hay 5 mA entrando al regulador sin carga y 2.2 mA ingresando a R2 para un total de 7.2 mA más la corriente de carga.

Eso significa que necesitamos un voltaje de entrada de 7.2mA * 2.8K + 4.4V o aproximadamente 24V para que se encienda incluso sin carga alguna. Supongo que la buena noticia es que no necesitarás un disipador de calor, pero no funcionará en absoluto.

Utilice un chip o módulo de suministro de conmutación, como los omnipresentes módulos LM2596 falsos de China.

De lo contrario, necesitará un disipador de calor grande o un ventilador para disipar 0.8A * (12-3.3) = 7W. Podría dejar algo de eso con una resistencia en serie con la entrada, pero aún así se calentará y requerirá un disipador de calor.