Processamento de Alto Desempenho

Identificação sumária dos conteúdos

A disciplina apresenta ferramentas para a programação concorrente e paralela e seu emprego visando a obtenção de processamento de alto desempenho em arquiteturas dotadas de múltiplos processadores. Aborda a decomposição de aplicações em atividades concorrentes e a utilização eficiente dos recursos de hardware através de mecanismos de balanceamento de carga.

Objetivos da disciplina

Capacitar o aluno a utilizar tecnologias de programação concorrente, paralela e distribuída, habilitando-o a tirar proveito de arquiteturas dotadas de múltiplos recursos de processamento para exploração de alto desempenho. Preparar o aluno a realizar a decomposição de problemas em atividades concorrentes e a realizar implementações destes problemas sob a forma de programas concorrentes, paralelos ou distribuídos empregando técnicas de escalonamento e de distribuição de carga.

Exigências prévias de conhecimento e habilidades

O aluno para tirar o máximo proveito da disciplina deve ter conhecimentos sólidos em alguma linguagem de programação.

Padrões mínimos de desempenho

Ao final da disciplina o aluno deverá ser capaz de realizar a modelagem e a implementação de uma aplicação paralela, indicando domínio dos métodos e das ferramentas disponíveis para tal. Também deverá ser capaz de detectar características das aplicações e das arquiteturas que possam vir a influenciar no desempenho de execução de um programa.

Conteúdo programático

• Arquiteturas multiprocessadas e aglomerados de computadores;
• Modelos de programação concorrente;
• Ferramentas de programação concorrente, paralela e distribuída;
• Escalonamento de tarefas;
• Balanceamento de carga.

Metodologia e recursos de ensino

Exposição dos temas empregando metodologias e técnicas apresentadas pela literatura de referência na área; Trabalhos, tais análise crítica ou implementação de protótipos, tendo como base artigos tratando o estado da arte na área; Realização de estudos de caso.

Avaliação

• Realização de uma aplicação, sob a forma de um programa concorrente explorando o alto desempenho em arquiteturas com múltiplos processadores;
• Defesa do modelo da aplicação construída e do mecanismos de balanceamento de carga empregado.
• Compreensão de artigos discutindo o estado da arte na área.

Bibliografia sugerida

• Andrews, Gregory. R. Foundations of multithreaded, parallel, and distributed programming. Reading, Addison Wesley, 2000.
• Bahradwaj, V., Ghose, D., Mani, V., Robertazzi, T. G. Scheduling divisible loads in parallel and distributed systems. Los Alamitos: IEEE Computer Society, 1996.
• Baker, Lou. Parallel programming. New York: Mc Graw Hill, 1996.
• Schneider, F. B. On concurrent programming. New York: Spring Verlag, 1997.
• ERAD 2001, 2002, 2003, 2004, 2005.
• El-Rewini, H., Lewis, T., Ali, H. Task scheduling in parallel and distributed systems. Englewood Cliffs: Prentice Hall, 1994.
• Foster, Ian. Designing and building parallel programs: concepts and tools for parallel software engineering. Reading: Addis on-Wesley, 1995.
• Hwang, K., Xu, Z. Parallel and cluster computing scalable architecture and programming. New York: Mc Graw Hill, 1998.
• Miller, R., Boxer, L. Algorithms sequential and parallel: a unified approach. Englewood Cliffs: Prentice Hall, 2000.
• Roosta, Seyed H. Parallel processing and parallel algorithms. New York: Springer, 1999.
• Skillicorn, David. Foundations of parallel programming. Cambridge: Univesity Press, 1994.
• Wilkinson, Barry. Parallel programming: techniques and applications using networked workstations and parallel computers. Englewood Cliffs: Prentice Hall, 1999.

Edição 2005

Avaliação

Média aritmética simples dos seguintes instrumentos:

• Trabalho de laboratório (implementação)
  • Implementação de um dos problemas Cowichan com threads POSIX ou em MPI
• Seminário sobre ferramenta de programação para PAD. Exemplos: Lista 1, Lista 2, Lista 3, Lista 4
• Documentação da ferramenta
  • Manual de instalação, descrição do modelo de programação, das estratégias de escalonamento e balanceamento de carga, recursos de programação, exemplos, ...
• Artigo
  • Descricao da aplicação Cowichan (artigo com 4 páginas, formato IEEE utilizado no WSCAD e no SBAC-PAD).

Calendário

Aula	Data	Assunto	Material
1	21/set	Motivação ao uso do PAD, Arquiteturas de computadores para o PAD, Agregado de computadores (cluster); Introdução à Programação Concorrente, Recursos primitivos, Semântica de Execução.	Apresentação, Conceitos, Programação Concorrente
2	28/set	Programação em Arquiteturas com Memória Compartilhada, Uso de Threads (POSIX)	Multiprogramação leve
3	5/out	Programação em Arquiteturas com Memória Distribuída, Uso de MPI (Message Passing Interface)	Comunicação Interprocessos
4	12/out	Feriado
5	19/out	Modelos de Concorrência	Modelos
6	26/out	Exercícios (avaliado)
7	2/nov	Feriado
8	9/nov	Balanceamento de Carga
9	16/nov	Laboratório de Programação
10	23/nov	Balanceamento de Carga
11	30/nov	Seminário: Ambientes de programação para o processamento de alto desempenho	Paulo, Gustavo, Cicero, Otavio
12	7/dez	Seminário: Ambientes de programação para o processamento de alto desempenho	Marlon, Sidnei, Juliano
13	14/dez	Outras Ferramentas, Debug, Trace, Avaliação de Desempenho Entrega de todos os trabalhos