英語ならば, concurrent と pararell ですぐに分かります.
日本語は「並行」と「並列」という単語が非常に似ていてややこしいです.ただでさえ「行」と「列」は間違いやすいのに,並ぶという字が前に付くと,別の類似する概念を表します.
行は横方向,列は縦方向です.漢字で,2個の線が隣り合っている部分を視覚的に覚えます.
時間経過を左から右に向かって表した時に,行は横方向なので,並行処理は横方向に並べて処理します.したがって,複数の処理をある時点で同時に実行している場合もあれば単独で実行している場合もあります.
列は縦方向なので,並列処理は,縦に並べて処理します.したがって,複数の処理をある時点で同時に実行します.