A junção de duas funções
A função composta é formada por duas funções, a f e a g, onde o domínio da função g é igual ao contradomínio da função f.
Quando essas duas funções estão juntas, acontece o que se denomina de função gof, ou seja, a função composta. Ela faz a relação dos elementos do domínio da função f, com os elementos do contradomínio da função g.
Veja a seguir:

Representação da função. (Foto: Educa Mais Brasil)
A imagem representa a função composta h(x) = g(f(x)). Ela também pode ser representada por gof(x).
Quando se usa a função h, aplica-se a função f no ponto x e descobre-se qual é o valor do seu contradomínio. Depois disso, aplica-se a função g no valor encontrado. Assim, temos um ponto do contradomínio g, mesmo sabendo que os pontos desse domínio também pertencem ao contradomínio f.
Define-se assim a função h, que tem o seu domínio e contradomínio da seguinte maneira:

Definição da função h. (Foto: Educa Mais Brasil)
Os elementos do domínio da função f são relacionados pela função h com os elementos do contradomínio da função g. Ela é igual a função composta de g com f.
Entenda na imagem:

Conjunto da função. (Foto: Educa Mais Brasil)
Na imagem acima observamos as funções f, g e h. Na função f, os elementos do conjunto A são relacionados com os elementos do conjunto B. Enquanto isso, a função g faz a relação entre os elementos do grupo B para os elementos do grupo C. A relação dos elementos do grupo A diretamente com os elementos do grupo C, forma a função composta gof.

Função. (Foto: Educa Mais Brasil)
Agora perceba no diagrama:

Diagrama da função composta. (Foto: Educa Mais Brasil)
Relembrando as funções
Como já foi visto, a função composta é aquela que mantém relações entre os elementos do domínio de uma função com os elementos do contradomínio de outra função.
Denomina-se função (f) a correlação existente entre os dois grupos distintos que são chamados de domínio (A) e contradomínio (B), fazendo a associação dos elementos de um grupo com o outro. Com isso, as funções são classificadas de acordo com a sua aplicabilidade dentro das operações matemáticas.
Essas funções são representadas dessa maneira:
f: A <> B (lê-se f de A em B)
Na representação da função, A é o seu domínio, enquanto B é o seu contradomínio. Para cada valor de x do domínio A, tem-se um valor de f(x) ligado a ele. É importante lembrar que f e f(x) são coisas distintas. O f se refere à simbologia da função, enquanto o f(x) é o valor que ela possui em um ponto x do domínio.
Aplicação
Para fixar melhor o assunto, observe a resolução dos exercícios abaixo:
1- Se f e g são funções reais, tais que f[g(x)] = – 10x – 13 e g(x) = 2x + 3. Determine qual é a lei que define f(x).
Como f[g(x)] = – 10x – 13 e g(x) = 2x + 3, então f[2x + 3] = – 10x – 13. Fazendo 2x + 3 de y, temos:
2x + 3 = y
2x = y – 3
x = y – 3/ 2
Então:
f(y) = – 10.(y – 3) – 13/ 2
f(y) = – 5.(y – 3) – 13
f(y) = – 5y + 15 – 13
f(y) = – 5y + 2
Portanto, o resultado é f(x) = – 5x + 2.
2- Se f(x) = x² + 2x + 1 e g(x) = – 2x – 1, determine a lei que define f[g(x)] eg[f(x)].
Antes, realiza-se a composição das funções f[g(x)], e então f(x), substitui-se x pela função g(x):
f(x) = x² + 2x + 1
f[g(x)] = [g(x)]² + 2.[g(x)] + 1
f[g(x)] = [– 2x – 1]² + 2.[– 2x – 1] + 1
f[g(x)] = 4x² + 4x + 1 – 4x – 2 + 1
f[g(x)] = 4x²
Agora o processo é realizado ao contrário. Para determinar g[f(x)], onde houver x na função g(x), substitui-se por f(x):
g(x) = – 2x – 1
g[f(x)] = – 2.[f(x)] – 1
g[f(x)] = – 2.[x² + 2x + 1] – 1
g[f(x)] = – 2x² – 4x – 2 – 1
g[f(x)] = – 2x² – 4x – 3
Encontra-se então a resposta: f[g(x)] = 4x² e g[f(x)] = – 2x² – 4x – 3.