eResearch Doc

User Tools

Site Tools

You are here: start » hpc » accounting
hpc:accounting

Differences

This shows you the differences between two versions of the page.

Link to this comparison view

Both sides previous revisionPrevious revision
Next revision		Previous revision
hpc:accounting [2025/02/04 13:37] – [Job accounting] Yann Sagonhpc:accounting [2025/03/13 09:57] (current) – [Report and statistics with sreport] Yann Sagon
Line 55: Line 55:
 Example: Example:
 <code> <code>
-nodes=$(sinfo --partition private-<yourgroup>-cpu,private-<yourgroup>-gpu -N -o %n | nodeset -f ) +ug_getNodeCharacteristicsSummary.sh --partitions private-<group>-gpu private-<group>-cpu --cluster <cluster> --summary 
-ug_getNodeCharacteristicsSummary.sh --nodes $nodes --cluster baobab --summary +host    sn             cpu    mem    gpunumber    gpudeleted  gpumodel                      gpumemory  purchasedate      months remaining in prod. (Jan 2025)    billing 
-host    sn             cpu    mem    gpunumber    gpudeleted  gpumodel                      gpumemory  purchasedate +------  -----------  -----  -----  -----------  ------------  --------------------------  -----------  --------------  --------------------------------------  --------- 
-------  -----------  -----  -----  -----------  ------------  --------------------------  -----------  -------------- +cpu084  N-20.02.151     36    187            0             0                                        0  2020-02-01                                           1         79 
-cpu084  N-20.02.151     36    187            0             0                                        0  2020-02-01 +cpu085  N-20.02.152     36    187            0             0                                        0  2020-02-01                                           1         79 
-cpu085  N-20.02.152     36    187            0             0                                        0  2020-02-01 +cpu086  N-20.02.153     36    187            0             0                                        0  2020-02-01                                           1         79 
-cpu086  N-20.02.153     36    187            0             0                                        0  2020-02-01 +cpu087  N-20.02.154     36    187            0             0                                        0  2020-02-01                                           1         79 
-cpu087  N-20.02.154     36    187            0             0                                        0  2020-02-01 +cpu088  N-20.02.155     36    187            0             0                                        0  2020-02-01                                           1         79 
-cpu088  N-20.02.155     36    187            0             0                                        0  2020-02-01 +cpu089  N-20.02.156     36    187            0             0                                        0  2020-02-01                                           1         79 
-cpu089  N-20.02.156     36    187            0             0                                        0  2020-02-01 +cpu090  N-20.02.157     36    187            0             0                                        0  2020-02-01                                           1         79 
-[...] +cpu209  N-17.12.104     20     94            0             0                                        0  2017-12-01                                           0         41 
-cpu213  N-17.12.108     20     94            0             0                                        0  2017-12-01 +cpu210  N-17.12.105     20     94            0             0                                        0  2017-12-01                                           0         41 
-cpu226  N-19.01.161     20     94            0             0                                        0  2019-01-01 +cpu211  N-17.12.106     20     94            0             0                                        0  2017-12-01                                           0         41 
-cpu227  N-19.01.162     20     94            0             0                                        0  2019-01-01 +cpu212  N-17.12.107     20     94            0             0                                        0  2017-12-01                                           0         41 
-cpu228  N-19.01.163     20     94            0             0                                        0  2019-01-01 +cpu213  N-17.12.108     20     94            0             0                                        0  2017-12-01                                           0         41 
-cpu229  N-19.01.164     20     94            0             0                                        0  2019-01-01 +cpu226  N-19.01.161     20     94            0             0                                        0  2019-01-01                                           0         41 
-cpu277  N-20.11.131    128    503            0             0                                        0  2020-11-01 +cpu227  N-19.01.162     20     94            0             0                                        0  2019-01-01                                           0         41 
-gpu002  S-16.12.215     12    251            5             0  NVIDIA TITAN X (Pascal)           12288  2016-12-01 +cpu228  N-19.01.163     20     94            0             0                                        0  2019-01-01                                           0         41 
-gpu012  S-16.12.216     24    251            8             0  NVIDIA GeForce RTX 2080 Ti        11264  2016-12-01 +cpu229  N-19.01.164     20     94            0             0                                        0  2019-01-01                                           0         41 
-gpu017  S-20.11.146    128    503            8             0  NVIDIA GeForce RTX 3090           24576  2020-11-01 +cpu277  N-20.11.131    128    503            0             0                                        0  2020-11-01                                          10        251 
-gpu023  S-21.09.121    128    503            8             0  NVIDIA GeForce RTX 3080           10240  2021-09-01 +gpu002  S-16.12.215     12    251            5             0  NVIDIA TITAN X (Pascal)           12288  2016-12-01                                           0         84 
-gpu024  S-21.09.122    128    503            8             0  NVIDIA GeForce RTX 3080           10240  2021-09-01 +gpu012  S-16.12.216     24    251            8             0  NVIDIA GeForce RTX 2080 Ti        11264  2016-12-01                                           0        108 
-gpu044  S-23.01.148    128    503            8             0  NVIDIA RTX A5000                  24564  2023-01-01 +gpu017  S-20.11.146    128    503            8             0  NVIDIA GeForce RTX 3090           24576  2020-11-01                                          10        299 
-gpu047  S-23.12.113    128    503            8             0  NVIDIA RTX A5000                  24564  2023-12-01 +gpu023  S-21.09.121    128    503            8             0  NVIDIA GeForce RTX 3080           10240  2021-09-01                                          20        283 
-gpu049  S-24.10.140    128    384            8             0  NVIDIA GeForce RTX 4090           24564  2024-10-01 +gpu024  S-21.09.122    128    503            8             0  NVIDIA GeForce RTX 3080           10240  2021-09-01                                          20        283 
-Total CPUs: 1364 Total CPUs memory[GB]: 6059 Total GPUs: 61, Total GPUs memory[MB] 142300+gpu044  S-23.01.148    128    503            8             0  NVIDIA RTX A5000                  24564  2023-01-01                                          36        299 
 +gpu047  S-23.12.113    128    503            8             0  NVIDIA RTX A5000                  24564  2023-12-01                                          47        299 
 +gpu049  S-24.10.140    128    384            8             0  NVIDIA GeForce RTX 4090           24564  2024-10-01                                          57        291 
 + 
 +============================================================ Summary ============================================================ 
 +Total CPUs: 1364 Total CPUs memory[GB]: 6059 Total GPUs: 61 Total GPUs memory[MB]: 142300 Billing: 1959 CPUhours per year: 10.30M
 </code> </code>
 +
 +How to read the output:
 +  * **host**: the hostname of the compute node
 +  * **sn**: the serial number of the node
 +  * **cpu**: the number of CPUs available in the node
 +  * **mem**: the quantity of memory on the node in GB
 +  * **gpunumber**: the number of GPU cards on the node
 +  * **gpudeleted**: the number of GPU cards out of order
 +  * **gpumodel**: the GPU model
 +  * **gpumemory**: the GPU memory in MB per GPU card
 +  * **purchasedate**: the purchase date of the node
 +  * **months remaining in prod. (Jan 2025)**: the number of months the node remains the property of the research group, the reference date is indicated in parenthesis. In this example it is January 2025.
 +  * **billing**: the [[hpc:accounting#resource_accounting_uniformization|billing]] value of the compute node
 +
 +You can modify the reference year if you want to "simulate" the hardware you'll have in your private partition in a given year. To do so, use the argument ''<nowiki>--reference-year</nowiki>'' of the script.
  
 ===== Job accounting ===== ===== Job accounting =====
Line 115: Line 135:
  
  
-We wrote a helper that you can use to get your past resource usage on the cluster.+We wrote a helper that you can use to get your past resource usage on the cluster. This script can display the resource utilization  
 +  * for each user of a given account (PI)  
 +  * total usage of a given account (PI)
  
 <code> <code>
-(baobab)-[sagon@login1 ~]$ ug_slurm_usage_per_user.py --help +(baobab)-[sagon@login1 ~]$ ug_slurm_usage_per_user.py -h 
-usage: ug_slurm_usage_per_user.py [-h] [--user USER] [--start START] [--end END] [--pi PI] [--verbose]+usage: ug_slurm_usage_per_user.py [-h] [--user USER] [--start START] [--end END] [--pi PI] [--cluster CLUSTER] [--all_users] [--report_type {user,account}] [--time_format TIME_FORMAT] [--verbose]
  
 Retrieve HPC utilization statistics for a user within a specified time range. Retrieve HPC utilization statistics for a user within a specified time range.
  
 options: options:
-  -h, --help     show this help message and exit +  -h, --help            show this help message and exit 
-  --user USER    The username to retrieve utilization for. +  --user USER           The username to retrieve utilization for. 
-  --start START  Start date (default: first day of current month). +  --start START         Start date (default: first day of current month). 
-  --end END      End date (default: current time). +  --end END             End date (default: current time). 
-  --pi PI        Specify the PI manually (optional). If not provided, it will be auto-detected. +  --pi PI               Specify the PI (account) manually (optional). If not provided, it will be auto-detected. 
-  --verbose      Print verbose msgs+  --cluster CLUSTER     Specify the cluster manually (optional). If not provided, all the clusters will be selected. 
 +  --all_users           If you want to see utilization of all users of a given account (PI) 
 +  --report_type {user,account} 
 +                        Report type: UserUtilizationByAccount or AccountUtilizationByUser 
 +  --time_format TIME_FORMAT 
 +                        Specify the time formt for the reporting. Default is by hours. You can use Minutes or Seconds 
 +  --verbose             Print verbose msgs
 </code> </code>
  
 By default when you run this script, it will print your past usage of the current month, for all the accounts you are member of. By default when you run this script, it will print your past usage of the current month, for all the accounts you are member of.
 +
 +
  
  
hpc/accounting.1738676239.txt.gz · Last modified: 2025/02/04 13:37 by Yann Sagon