ACMサマースクール参加記

2021年8月30日(月)〜9月3日(金)に開催されたACM Europe Summer Schoolに参加してきました。 この記事はその参加記になります。

概要

ACM Europe Summer Schoolは、正式には2021 ACM Europe Summer School on “HPC Computer Architectures for AI and Dedicated Applications”といいます。 ACMの欧州部門(?)が開催する夏季開講のイベントで、HPC(High Performance Computing)関連の分野を学びます。 対象は学部3年〜修士学生あたりが想定されていたそうですが、実際はPhD学生も多めでした。

バルセロナの大学などが主催していますが、スペイン語とかではなく、英語なので安心です。 また、時差はサマータイム込みでJST-7時間なので、日本時間で生活できました。

参加記

Day 1

ひとつ目のLectureである、「Energy Efficient Approach in ML Architecture」がメインで、CNNについて学びつつ、ハードで高速化する話をしてくる感じでした。 Hennesy&Pattersonのコンピュータアーキテクチャを読んでいたので、導入部分がすっと入ってきて助かりました。

Keynoteの「Molecular Programming」は、遺伝情報を活用して目的に合わせた分子を創り出す話でした。 が、この人の英語は聞きづらくてつらかったです。

  • Energy Efficient Approach in ML Architecture
  • Molecular Programming
  • Challenges and Solutions applying HPC to Interdisciplinary Research
  • (ACM-W Europe) Women in Computing in Europe
  • (Huawei) HPC Empowered Accessible, Affordable, and Effective AI Computing

Day 2

RISC-V関連が詰まった1日。 この日のLectureでは、前日よりも実装に踏み込んだ紹介が行われていました。

EuroHPCでは、米中が中心的なHPCの世界で、欧州が主導的立場に回りたいという思いが伝わってきました。 EU各国が資金を出し合い、欧州各地にスパコンを設置したり、研究を補助したりする取り組みだそうです。 なお、東南アジアからの参加者がEU域外へのアクセス開放について聞いた際は、プレゼンターさんも困り気味でした。

  • Many shades of Machine Learning Acceleration – an Open RISC-V Platform Perspective
  • (EuroHPC-JU) EuroHPC - The European High Performance Computing Joint Undertaking
  • (Semidynamics) Avispado: A RISC-V core supporting the RISC-V vector instruction set
  • Building an Open-Source Ecosystem for HPC
  • (Nvidia) Deep Learning Hardware: Past, Present, and Future

Day 3

ソフトウェア側からの視点が多く紹介されていた日でした。 計測ツールを最大限活用した最適化の話は、ISUCONに通じるところをちょっと感じながら聞いていました。

また、ポスターセッションではPhD学生たちの論文・研究紹介が多く、結構楽しめました。 発表できる何かを持っていたら、いつか海外でも発表してみたいものです。

  • Performance analysis and hybrid programming in HPC
  • Computer Number Formats to Accelerate Deep Neural Network Training
  • Programming parallel codes with PyCOMPSs
  • Poster session
  • Machine Learning for Healthcare

Day 4

この日はハンズオン形式のレクチャーがふたつの構成でした。前者はTensorFlowの、後者はApache Sparkのチュートリアルでした。

ハンズオンのおかげで、Barcelona Supercomputing Centerのスーパーコンピュータ(MN4 CTE-POWER)にSSHする貴重な経験ができてよかったです。 (やったこと自体はかなり易しいものでした)

  • Practical Introduction to programming Deep Learning on a supercomputer
  • Distributed Data Analytics in Supercomputing Systems

Day 5

パフォーマンスや電力性能を定量的にはかる話と、ケーススタディの組み合わせで、これまたヘネパタを読んでおくと飲み込みやすい講義でした。

最後の「Revolution in High Performance Computing to accelerate scientific progress」は5日間の総まとめといったところでした。 ここまでのケーススタディでもそうでしたが、ヨーロッパがHPCやアーキテクチャの分野を主導したいという思いが強かったです。 欧州勢はだいぶ前からArmに注目していたそうですが、日本勢に買われてしまったので、今後はRISC-Vを育てるつもりだとも語られていました。

  • Vector acceleration in HPC and Edge Devices
  • (Almaviva) Using HPC to run AI training for spotting illegal buildings. How to develop real use case for real customers
  • Revolution in High Performance Computing to accelerate scientific progress

なお、個別の講義の詳細についてはこのツリーにまとまっています。

参加しての感想とか

海外で行われる講義を聞くのが初めてで心配でしたが、なんとか5日間完走することができました。 時差のおかげで、夕方までは毎日他のことをする余裕もありました。 でもちゃんと休むほうがいいです。実際はものすごく体力を使っているはずです。

講義自体は、コンピュータアーキテクチャの基礎知識さえあればついていける内容だったので、特に問題ありませんでした。 すでに何度か書いていますが、ヘネパタを読んでおくとすごく役に立ちます。

それでも、言語の壁というのは高いもので、英語を聞くだけで精一杯になる場面が多くありました。 それに、相手もネイティブではないので、お互い様ですが、癖があったりします。 とりあえず語学をもう少し頑張りたいなと感じました。

最後になりますが、このサマースクールを開催してくださった方々、推薦状を書いてくださった先生方、本当にありがとうございました。