У разі оцінювання більш ніж одного варіанта процесу, оцінювачу необхідно використовувати зареєстровану відносно оцінювання інформацію, зібрану у всіх варіантах, щоб винести судження відносно рейтингу кожного атрибута, оціненого для цього процесу.
Підходи до оцінювання
Самооцінювання
Самооцінювання проводить організація для оцінювання потужності її власних процесів життєвого циклу програмних засобів. Ініціатор самооцінювання, зазвичай, працює в організації.
Незалежне оцінювання
Незалежне оцінювання виконують незалежні від організації оцінювачі. Незалежне оцінювання можна проводити, наприклад, в інтересах самої організації як незалежну перевірку того, що програма оцінювання функціює належним чином; ініціатор оцінювання може працювати в самій організації, але зовсім необов’язково в підрозділі, який оцінюють.
Ініціатор незалежного оцінювання може бути зовнішнім відносно оцінюваного підрозділу організації, наприклад, замовник, бажаючий мати результат оцінювання, отриманий незалежно.
Процес оцінювання
Оцінювання потрібно проводити як документований процес, придатний для реалізації призначення оцінювання
(ISO/IEC TR 15504-3,4.4.1)
Незалежно від типу оцінювання чи прийнятого підходу, оцінювання потрібно проводити згідно з документованим процесом. Деякі ключові елементи документованого процесу оцінювання коротко описуються нижче і детальніше в розділах 5, 6 і 7. Однак, ця настанова не є повним документованим процесом. її призначення — допомогти в інтерпретації вимог, наведених в ISO/IEC TR 15504-2 і ISO/IEC TR 15504-3 і започаткувати вибір або створення документованого процесу.
Описуються такі ключові елементи процесу оцінювання, як документований процес оцінювання, сумісна модель(-лі) оцінювання, забезпечувальні інструменти та інструментальні засоби.
Документований процес оцінювання
Документований процес оцінювання складається з набору інструкцій і процедури для виконання оцінювання. Залежно від підходу документований процес оцінювання повинен дати настанови з таких питань:
ролі та відповідальність;
використання інструментальних засобів та методів;
необхідні ресурси;
послідовність дій та процедур, які відносяться до таких категорій:
планування;
збір даних;
перевірка правильності даних;
визначання рейтингів процесу.Сумісна модель
Саме сумісна модель містить вимоги, які описані в ISO/IEC TR 15504-2. Якщо стисло, сумісною є така модель:
що підходить для призначення процесу оцінювання;
чиї основні елементи можуть бути відображені та відображаються на виміри процесу та потужності еталонної моделі в ISO/IEC TR 15504-2;
яка оснащена набором показників для використання під час оцінювання для збору інформації про процес та його атрибути;
в якій є формальний механізм перетворення інформації, зібраної за допомогою моделі, в оцінки атрибутів процесу, як визначено в ISO/IEC TR 15504-2.
Розділ 5 дає настанови з вибору та використовування сумісної моделі. Модель, описана в ISO/ і EC TR 15504-5, є екземпляром сумісної моделі.
Забезпечувальні інструменти та інструментальні засоби
За будь-якого оцінювання інформацію необхідно зібрати, зафіксувати, накопичити, порівняти, обробити, проаналізувати, відновити та подати як результат. Взагалі, документований процес оцінювання буде підтриманий різними інструментами та інструментальними засобами для збирання інформації, її оброблення та подання. За деяких оцінювань забезпечувальні інструменти та інструментальні засоби можуть бути ручними та паперовими (форми, анкети, контрольні переліки і т. ін.), У деяких випадках об’ємність та складність Інформації з оцінювання веде до необхідності обробки її комп’ютерними засобами.
Незалежно від форми забезпечувальних інструментів та інструментальних засобів їх метою повинна бути допомога оцінювачеві у виконанні оцінювання узгодженим та надійним способом, із зменшенням суб’єктивності оцінювача та забезпеченням гарантії достовірності, використову- ваності та порівняльності результатів оцінювання. Щоб досягти цього, інструменти та інструментальні засоби мають робити модель оцінювання та її показники доступними оцінювачеві.
Чинники успішності оцінювання процесу
Для успішного оцінювання процесу суттєвими є такі чинники.
Зобов’язання
Відповідно до поставленої мети оцінювання на ініціатора покладаються зобов'язання проводити оцінювання в організації. Ці зобов’язання вимагають наявності необхідних ресурсів часу та персоналу для проведення оцінювання. Покладання зобов’язань на ініціатора та оцінювачів дуже важливо для забезпечення досягнення мети.
Заохочення
Відношення адміністрації організації до документованого процесу оцінювання, за яким збирається інформація, має значний вплив на результат оцінювання. Отже, адміністрація організації повинна заохочувати учасників бути неупередженими та конструктивними. Процес оцінювання зосереджується на процесах, а не на роботі працівників підрозділу організації, що здійснює процес. Метою є зробити процес ефективнішим для досягнення поставлених виробничих цілей, а не заплямувати окремих осіб.
Забезпечення зворотного зв’язку та керування в атмосфері, що заохочує відкрите обговорення попередніх даних, одержаних під час оцінювання, допомагає гарантувати, що результат оцінювання буде суттєвим для підрозділу організації. Організація повинна визнати, що учасники — це принципове джерело знань і досвіду про процес, та те, що вони мають позитивні наміри щодо ідентифікації потенційно слабких місць.
Конфіденційність
Для захисту інформації суттєвою є конфіденційність джерел інформації, зібраної впродовж оцінювання. Якщо застосовуються обговорювані методи, необхідно приділити увагу тому, щоб учасники не почувалися б незахищеними та не мали б будь-яких проблем з конфіденційністю. Частина одержаної інформації може бути приватною для організації. Тому важливими є відповідні засоби контролю обробляння інформації такого роду.
Доречність
Працівники підрозділу організації повинні повірити, що оцінювання матиме користь, яку вони відчують безпосередньо або опосередковано.
Авторитетність
ініціатор та адміністрація і персонал підрозділу організації повинні вірити, що оцінювання матиме результат, який був на меті та буде репрезентативним для сфери оцінювання. Важливо, щоб усі сторони були впевнені, що оцінювачі достатньо справедливі, мають відповідний досвід оцінювання та настільки ґрунтовну уяву про підрозділ організації та його діяльність, що можуть проводити оцінювання.
ВИБІР ТА ВИКОРИСТОВУВАННЯ СУМІСНОЇ МОДЕЛІ
Цей розділ дає настанови з вибору та використовування сумісної моделі як базової для виконання оцінювання процесів життєвого циклу програмних засобів. Настанови призначені для використання оцінювачами та ініціаторами оцінювань. Настанови не адресовані саме розробникам сумісних моделей, але можуть використовуватися ними.
У разі виконання оцінювання процесу, діяльність, що спостерігається в оцінюваному підрозділі організації, порівнюється з ефективною діяльністю в базовій моделі для визначання діапазону, в який укладаються показники потужності, досягнуті в результаті цієї діяльності. Для цього модель повинна містити описи діяльності, яку можна спостерігати, і такі показники виконання цієї діяльності, щоб оцінки потужності були надійні та узгоджені.
Сумісність з еталонною моделлю
Модель(-лі), використана (-ні) під час оцінювання, повинна (-ні) бути сумісною (-ними) із моделлю(ями) ефективної діяльності в галузі програмної інженерії, відповідною до вимог, зазначених у ISO/IEC TR 15504-2
(ISO/IEC TR 15504-3, 4.2.2е)
Першим критерієм для вибору моделі (-лей) є її сумісність з еталонною моделлю. Сумісність є важливою для забезпечення ступеня сумісності між результатами різних оцінювань за допомогою підвищення надійності різних підходів і досягнення більшого ступеня узгодженості звітування.
Призначення моделі
Модель повинна базуватися на провідних принципах програмної інженерії та керування процесом і бути придатною для цілей оцінювання потужності процесу програмування
(ISO/IEC TR 15504-2, 7.2)
Існує багато різних методів моделювання, придатних для опису, конкретизації та запровадження процесів. Моделі, які не розробляли спеціально для оцінювання процесів, можуть не дати надійних результатів, тому їх цільова придатність повинна бути перевірена перед вибором моделі.
Сфера моделі
Модель повинна охоплювати всю множину процесів у вимірі процесу з еталонної моделі, або деяку його непусту підмножину.
Модель повинна охоплювати усі або безперервну множину рівнів (починаючи з рівня 1) виміру потужності в еталонній моделі для всіх процесів, які перебувають у сфері її застосування
(ISO/IEC TR 15504-2, 7.3)
Еталонна модель визначає множину універсальних процесів програмної інженерії, які є основними для ефективної програмної інженерії, та покриває найкращі практичні дії. Щоб бути сумісною з еталонною, будь-яка модель повинна, принаймні, містити частину цієї множини. Модель може бути підмоделлю еталонної моделі. Вона може бути надмоделлю еталонної моделі, охоплюючи всі зазначені процеси разом із додатковими описами процесів за рамками стандартного діапазону. Сумісна модель може також містити процеси, відсутні в еталонній моделі, забезпечуючи присутність хоча б одного процесу з еталонної. Нарешті сфера застосування моделі може безпосередньо збігатися з еталонною моделлю.
Для виміру потужності модель повинна охоплювати повну множину потужностей для всіх процесів у своїй сфері. Множина потужностей повинна містити повний діапазон рівнів потужності еталонної моделі або його підмножину, починаючи з рівня 1. Таким чином, для моделі припустимо охоплювати рівні з 1 до 3, але неприпустимі тільки рівні з 3 до 5.
У разі вибору моделі оцінювачі повинні впевнитися, що сфера моделі охоплює сферу інтересів оцінювання.
Елементи моделі та показники
Модель повинна базуватися на множині елементів, які точно адресують призначення, як воно визначено в еталонній моделі, всіх процесів у сфері застосування моделі, і які демонструють досягнення атрибутів процесу в аспекті рівня потужності моделі
(ISO/IEC TR 15504-2, 7.4)
Для того, щоб модель була сумісною з еталонною моделлю, вона повинна стосуватися призначення процесів так само, як зазначено в еталонній моделі, та удосконалювати ті самі атрибути процесу, які є виміром потужності. Щоб виконати вимоги інших компонентів ISO/IEC TR 15504, вона повинна документувати таку множину показників виконання процесу та потужності процесу, яка уможливлює судження про потужність процесу повністю базуватися на об’єктивних даних.
Очевидно, що показники підпадуть під дві категорії: чинники, що описують виконання процесу, та чинники, що описують його потужність. Пильну увагу у разі вибору моделі необхідно приділяти використанню показників у моделі, повноті множини показників та застосовуваності множини показників. ISO/IEC TR 15504 охоплює модель з повною множиною показників, що може послужити прикладом діапазону охоплення.
Відображення
Модель повинна забезпечувати точне відображення основоположних елементів моделі на процеси та атрибути процесів у еталонній моделі.
Відображення має бути повним, прозорим та однозначним і мас надавати основу для визначання сфери охоплення
(ISO/IEC TR 15504-2, 7.5)
Суттєвим є те, що оцінювач має доступ до подробиць відображення елементів моделі в еталонній моделі.
Відображення може бути простим, як у випадку моделі, зазначеній в ISO/IEC TR 15504-5. Однак, якщо структура моделі значно відрізняється від еталонної моделі, відображення може бути досить складним.
Оцінювач повинен впевнитись, що відображення не є помилкове, наприклад, за допомогою вибору декількох компонентів моделі найнижчого рівня і знаходженням їх в еталонній моделі або як елементів процесу, або як складових атрибутів процесу. Відображення, результатом якого будуть елементи, що є складовими більш, ніж одного атрибуту процесу, можуть висвітлити проблеми зі структурою моделі, яка дасть неоднозначне перетворення результатів.
Перетворення
Сумісна модель повинна забезпечувати формальний та верифікований механізм для перетворення даних, зібраних у рамках сумісної моделі, у множину рейтингів атрибутів процесу для кожного процесу в еталонній моделі, що оцінювався безпосередньо або опосередковано так, як визначено у 6.7 цього стандарту та у ISO/IEC TR 15504-3
(ISO/IEC TR 15504-2, 7.6)
Вихідними даними оцінювання процесу є множина профілів процесу. Профіль процесу — це множина, яку складають до 9 рейтингів, по одному для кожного з атрибутів процесу. В результаті оцінювання повинна бути можливість будь-яку сумісну модель перевести в цю форму, отже існує загальний базис для порівняння.
Механізм перетворення може бути ручним або автоматизованим. Він може вимагати долу- чення додаткової інформації, зібраної впродовж оцінювання, і може включати подальші судження частини оцінювачів. Однак, правила перетворення результатів повинні бути точними і однозначними; їх забезпечує або розробник моделі, або постачальник методу.